在意識層面，站長對SEO可以形象理解為: 當用戶進入搜索引擎，就好像進入了一個偌大的圖書館。那么在這個圖書館里面有非常多的分類,分類分成大分類（可以理解為書架）小分類（可以理解為書架上面的格子）以及具體到小的分類（書的內(nèi)容）！

百度蜘蛛是怎么來抓取網(wǎng)頁的，基礎(chǔ)流程是什么？簡單說一說。
       蜘蛛工作的步：爬行你網(wǎng)站的網(wǎng)頁，尋找合適的資源。
       蜘蛛它有一個特性，那就是他的運動軌跡通常都是圍繞著蜘蛛絲而走的，而我們之所以將搜索引擎的機器人命名為蜘蛛其實就是因為這個特性。當蜘蛛來到你的網(wǎng)站之后，它就會順著你網(wǎng)站中的鏈接（蜘蛛絲）不斷的進行爬行，因此如何讓蜘蛛能夠更好的在你的網(wǎng)站中進行爬行就成為了我們的重中之重。

這個時候我們經(jīng)常會建議站長們用的手法就是在網(wǎng)站上多一些調(diào)用，這些調(diào)用均是調(diào)用網(wǎng)站內(nèi)部的一些文章，這種做法是大多數(shù)站長的選擇，不論是相關(guān)閱讀，還是推薦閱讀，亦或者是其它的排行榜之類的……
        蜘蛛工作的第二步：抓取你的網(wǎng)頁。
        引導蜘蛛的爬行這只是一個開始，一個好的開始意味著你將有一個高起點。通過自己的內(nèi)鏈設計，使得網(wǎng)站中不存在任何死角，蜘蛛可以輕松的到達網(wǎng)站中的每一個頁面，這樣蜘蛛在進行第二步工作——抓取的時候，將會事半功倍。
        而在這一步抓取的過程中我們又需要注意的就是要精簡網(wǎng)站的結(jié)構(gòu)，將那些不必要、不需要的多余代碼去掉，因為這些都將會影響蜘蛛抓取網(wǎng)頁的效率與效果。另外還需要大家注意的事情就是通過我們都不建議網(wǎng)站中放入FLASH，因為蜘蛛對于FLASH是不好抓取的，過多的FLASH會導致蜘蛛放棄抓取你網(wǎng)站的頁面。
        蜘蛛工作的第三步：優(yōu)質(zhì)的文章，能夠極大的提高蜘蛛抓取頁面的幾率。
        到底是外鏈為皇還是內(nèi)容為皇這個已經(jīng)不重要了，也不是我們這里要討論的東西，但僅僅只是從這句話中我們就能清楚的知道內(nèi)容的重要性了。同樣的，蜘蛛也非常看重內(nèi)容，一篇優(yōu)質(zhì)的原創(chuàng)文章可以很好的打動蜘蛛，讓蜘蛛僅僅只是爬了一遍就迫不及待的將其帶回。而相反，一篇抄襲、復制而來的文章，很有可能蜘蛛需要反復爬行幾次、甚至幾十次才有可能將其帶回，并且還極有可能根本就無視其存在。
當然這也不是絕對的，我們說的只是一個相對而言的東西，在同等條件下的兩篇文章，優(yōu)質(zhì)的原創(chuàng)文章更加容易被蜘蛛所接受。
        蜘蛛工作的第四步：頁面放出。
        這里我們所說的頁面放出指的是在搜索引擎中可以被正常搜索到了，之所以說第四步是這一步而不是索引，是因為我覺得做為我們SEOER，應該盡量簡化研究的過程。
        當蜘蛛將頁面抓取完成之后帶回索引庫之后，一切的一切就將不再是我們所能夠控制的了，所以我在這里跳過了索引這一步而是直接談到放出頁面這一步

http://www.bangwork.net/youhuazixun/1891.html 百度蜘蛛如何抓取頁面,百度蜘蛛工作原理及爬行軌跡