收錄原理

網(wǎng)頁(yè)在互聯(lián)網(wǎng)中是如何被搜索引擎蜘蛛爬取，然后又如何進(jìn)入搜索引擎的索引庫(kù)并前端被用戶搜索到，按一定的規(guī)律進(jìn)行結(jié)果排序的呢?其中，非常受SEO關(guān)注的是頁(yè)被收錄的整個(gè)過(guò)程。了解搜索引擎的收錄原理，對(duì)SEO人員更好地優(yōu)化頁(yè)面是不可或的，充分地掌握收錄原理對(duì)實(shí)現(xiàn)網(wǎng)站頁(yè)面被收錄的比例提高大有裨益。

搜索引擎Spider的工作原理

收錄的第一個(gè)環(huán)節(jié)就是抓取，即搜索引擎的蜘蛛(Spider)到互聯(lián)網(wǎng)去抓取網(wǎng)頁(yè)的程。抓取網(wǎng)頁(yè)是收錄工作的上游，通過(guò)搜索引擎蜘蛛的抓取、保存和持續(xù)的更新，實(shí)現(xiàn)互聯(lián)網(wǎng)網(wǎng)頁(yè)的動(dòng)態(tài)更新。每個(gè)互聯(lián)網(wǎng)公司都有自己的抓取蜘蛛，比如百度蜘蛛、谷歌蜘蛛搜狗蜘蛛等。對(duì)于百度來(lái)說(shuō)，常見(jiàn)的蜘蛛。蜘蛛通過(guò)對(duì)頁(yè)面的抓取和更新，實(shí)現(xiàn)對(duì)互聯(lián)網(wǎng)所有頁(yè)面進(jìn)行URL+頁(yè)面庫(kù)的維護(hù)。

Spider抓取系統(tǒng)包括鏈接存儲(chǔ)系統(tǒng)、鏈接選取系統(tǒng)、DNS解析服務(wù)系統(tǒng)、抓取調(diào)度系統(tǒng)、網(wǎng)頁(yè)分析系統(tǒng)、鏈接提取系統(tǒng)、鏈接分析系統(tǒng)、網(wǎng)頁(yè)存儲(chǔ)系統(tǒng)。BaiduSpider就是通過(guò)這種系統(tǒng)的通力合作完成對(duì)互聯(lián)網(wǎng)頁(yè)面的抓取工作。

百度蜘蛛的運(yùn)行原理分為以下兩個(gè)部分。

（1)通過(guò)百度蜘蛛下載回來(lái)的網(wǎng)頁(yè)放到補(bǔ)充數(shù)據(jù)區(qū)，通過(guò)各種程序計(jì)算過(guò)后才放到檢索區(qū)，才會(huì)形成穩(wěn)定的排名，所以說(shuō)只要下載回來(lái)的東西都可以通過(guò)指令找到，補(bǔ)充數(shù)據(jù)是不穩(wěn)定的，有可能在各種計(jì)算的過(guò)程中被刪除掉，檢索區(qū)的數(shù)據(jù)排名是相對(duì)比較穩(wěn)定的，百度目前是緩存機(jī)制和補(bǔ)充數(shù)據(jù)相結(jié)合的，正在向補(bǔ)充數(shù)據(jù)轉(zhuǎn)變，這也是目前百度收錄困難的原因，也是很多站點(diǎn)今天被刪除了明天又放出來(lái)的原因。

（2）百度深度優(yōu)先和權(quán)重優(yōu)先，百度蜘蛛抓取頁(yè)面的時(shí)候從起始站點(diǎn)（種子站點(diǎn)指的是一些門(mén)戶站點(diǎn))開(kāi)始，廣度優(yōu)先是為了抓取更多的網(wǎng)址，深度優(yōu)先是為了抓取高質(zhì)量的網(wǎng)頁(yè)，這個(gè)策略是由調(diào)度來(lái)計(jì)算和分配的，百度蜘蛛只負(fù)責(zé)抓取，權(quán)重優(yōu)先是指反向連接較多的頁(yè)面的優(yōu)先抓取，這也是調(diào)度的一種策略，一般情況下網(wǎng)頁(yè)抓取抓到40%是正常范圍，60%算很好，100%是不可能的，當(dāng)然抓取的越多越好。

在蜘蛛的實(shí)際抓取過(guò)程中，因?yàn)榫W(wǎng)頁(yè)內(nèi)容的復(fù)雜性(文本、Flash、視頻等）和技術(shù)實(shí)現(xiàn)的多樣性（純靜態(tài)、動(dòng)態(tài)加載等），為了更高效地利用Spider資源，搜索引擎公司會(huì)采用不同的抓取策略。作為SEO人員，可以參考搜素引擎公司抓取測(cè)略的描述，采用最大化的SEO優(yōu)化方法。