福州seo基礎(chǔ)培訓(xùn)搜索引擎的工作原理

搜索引擎很重要的是什么？有人會(huì)說(shuō)是查詢結(jié)果的正確性，有人會(huì)說(shuō)是查詢結(jié)果的豐富性，但其實(shí)這些都不是搜索引擎很很致命的地方。對(duì)于搜索引擎來(lái)說(shuō)，很很致命的是查詢時(shí)間。試想一下，假如你在百度界面上查詢一個(gè)關(guān)鍵詞，結(jié)果需要5分鐘才能將你的查詢結(jié)果反饋給你，那結(jié)果必然是你很快的舍棄掉百度。

一名合格的seo工程師，一定會(huì)了解搜索引擎的工作原理，搜索引擎為了滿足對(duì)速度苛刻的要求（現(xiàn)在商業(yè)的搜索引擎的查詢時(shí)間單位都是微秒數(shù)量級(jí)的），所以采用緩存支持查詢需求的方式，也就是說(shuō)我們?cè)诓樵兯阉鲿r(shí)所得到的結(jié)果并不是及時(shí)的，而是在其服務(wù)器已經(jīng)緩存好了的結(jié)果。搜索引擎的工作原理其實(shí)很簡(jiǎn)單，首先搜索引擎大致分為4個(gè)部分，第一個(gè)部分就是蜘蛛爬蟲(chóng)，第二個(gè)部分就是數(shù)據(jù)分析系統(tǒng)，第三個(gè)部分是索引系統(tǒng)，第四個(gè)就是查詢系統(tǒng)咯，當(dāng)然這只是基本的4個(gè)部分！

什么是搜索引擎蜘蛛，什么是爬蟲(chóng)程序？

搜索引擎蜘蛛程序，其實(shí)就是搜索引擎的一個(gè)自動(dòng)應(yīng)用程序，它的作用是什么呢？其實(shí)很簡(jiǎn)單，就是在互聯(lián)網(wǎng)中瀏覽信息，然后把這些信息都抓取到搜索引擎的服務(wù)器上，然后建立索引庫(kù)等等，我們可以把搜索引擎蜘蛛當(dāng)做一個(gè)用戶，然后這個(gè)用戶來(lái)訪問(wèn)我們的網(wǎng)站，然后在把我們網(wǎng)站的內(nèi)容保存到自己的電腦上！比較好理解。

發(fā)現(xiàn)某一個(gè)鏈接→下載這一個(gè)網(wǎng)頁(yè)→加入到臨時(shí)庫(kù)→提取網(wǎng)頁(yè)中的鏈接→在下載網(wǎng)頁(yè)→循環(huán)

1、搜索引擎的蜘蛛需要去發(fā)現(xiàn)鏈接，至于怎么發(fā)現(xiàn)就簡(jiǎn)單了，就是通過(guò)鏈接鏈接鏈接。

每一位站長(zhǎng)只要你的網(wǎng)站沒(méi)有被嚴(yán)重降權(quán)，那么通過(guò)網(wǎng)站后臺(tái)的服務(wù)器，你都可以發(fā)現(xiàn)勤勞的蜘蛛光顧你的站點(diǎn)，但是你們有沒(méi)有想過(guò)從編寫程序的角度上來(lái)說(shuō)，蜘蛛是怎么來(lái)的呢？針對(duì)于此，各方有各方的觀點(diǎn)。有一種說(shuō)法，說(shuō)蜘蛛的抓取是從種子站（或叫高權(quán)重站），依照權(quán)重由高至低逐層出發(fā)的。另一種說(shuō)法蜘蛛爬在URL集合中是沒(méi)有明顯先后順序的，搜索引擎會(huì)根據(jù)你網(wǎng)站內(nèi)容更新的規(guī)律，自動(dòng)計(jì)算出何時(shí)是爬取你網(wǎng)站的很佳時(shí)機(jī)，然后進(jìn)行抓取。

其實(shí)對(duì)于不同的搜索引擎，其抓取出發(fā)點(diǎn)定然會(huì)有所區(qū)別，針對(duì)于百度，筆者較為傾向于后者。在百度官方博客發(fā)布的《索引頁(yè)鏈接補(bǔ)全機(jī)制的一種辦法》一文中，其明確指出“spider會(huì)盡量探測(cè)網(wǎng)頁(yè)的發(fā)布周期，以合理的頻率來(lái)檢查網(wǎng)頁(yè)”，由此我們可以推斷，在百度的索引庫(kù)中，針對(duì)每個(gè)URL集合，其都計(jì)算出適合其的抓取時(shí)間以及一系列參數(shù)，然后對(duì)相應(yīng)站點(diǎn)進(jìn)行抓取。

2、搜索引擎蜘蛛在發(fā)現(xiàn)了這個(gè)鏈接后會(huì)把這個(gè)網(wǎng)頁(yè)下載下來(lái)并且存入到臨時(shí)的庫(kù)中，當(dāng)然在同時(shí)，會(huì)提取這個(gè)頁(yè)面所有的鏈接，然后就是循環(huán)。

3、搜索引擎蜘蛛幾乎是24小時(shí)不休息的（在此為它感到悲劇，沒(méi)有假期。哈哈。）

4、那么蜘蛛下載回來(lái)的網(wǎng)頁(yè)怎么辦呢？這就需要到了第二個(gè)系統(tǒng)，也就是搜索引擎的分析系統(tǒng)。

搜索引擎的蜘蛛抓取網(wǎng)頁(yè)有規(guī)律嗎？

這個(gè)問(wèn)題問(wèn)的好，那么搜索引擎蜘蛛抓取網(wǎng)頁(yè)到底有規(guī)律嗎？答案是有！

假如蜘蛛胡亂的去抓取網(wǎng)頁(yè)，那么就費(fèi)死勁了，互聯(lián)網(wǎng)上的網(wǎng)頁(yè)，天天都增加那么那么那么多，蜘蛛怎么可以抓取的過(guò)來(lái)呢？所以說(shuō)，蜘蛛抓取網(wǎng)頁(yè)也是有規(guī)律的！

1、很常見(jiàn)的404代表“NOTFOUND”，認(rèn)為網(wǎng)頁(yè)已經(jīng)失效，通常將在庫(kù)中刪除，同時(shí)短期內(nèi)假如spider再次發(fā)現(xiàn)這條url也不會(huì)抓取；

2、503代表“ServiceUnavailable”，認(rèn)為網(wǎng)頁(yè)臨時(shí)不可訪問(wèn)，通常網(wǎng)站臨時(shí)關(guān)閉，帶寬有限等會(huì)產(chǎn)生這種情況。對(duì)于網(wǎng)頁(yè)返回503狀態(tài)碼，百度spider不會(huì)把這條url直接刪除，同時(shí)短期內(nèi)將會(huì)反復(fù)訪問(wèn)幾次，假如網(wǎng)頁(yè)已恢復(fù)，則正常抓取；假如繼續(xù)返回503，那么這條url仍會(huì)被認(rèn)為是失效鏈接，從庫(kù)中刪除。

3、403代表“Forbidden”，認(rèn)為網(wǎng)頁(yè)目前禁止訪問(wèn)。假如是新url，spider暫時(shí)不抓取，短期內(nèi)同樣會(huì)反復(fù)訪問(wèn)幾次；假如是已收錄url，不會(huì)直接刪除，短期內(nèi)同樣反復(fù)訪問(wèn)幾次。假如網(wǎng)頁(yè)正常訪問(wèn)，則正常抓??；假如仍然禁止訪問(wèn)，那么這條url也會(huì)被認(rèn)為是失效鏈接，從庫(kù)中刪除。

4、301代表是“MovedPermanently”，認(rèn)為網(wǎng)頁(yè)重定向至新url。當(dāng)碰到站點(diǎn)遷移、域名更換、站點(diǎn)改版的情況時(shí)，我們推薦使用301返回碼，同時(shí)使用站長(zhǎng)平臺(tái)網(wǎng)站改版工具，以減少改版對(duì)網(wǎng)站流量造成的損失。

互聯(lián)網(wǎng)中一部分網(wǎng)頁(yè)因?yàn)楦鞣N各樣的原因存在url重定向狀態(tài)，為了對(duì)這部分資源正常抓取，就要求spider對(duì)url重定向進(jìn)行識(shí)別判定，同時(shí)防止作弊行為。重定向可分為三類：30x重定向、metarefresh重定向和js重定向。另外，百度也支持Canonical標(biāo)簽，在效果上可以認(rèn)為也是一種間接的重定向。

由于互聯(lián)網(wǎng)資源規(guī)模的巨大以及迅速的變化，對(duì)于搜索引擎來(lái)說(shuō)全部抓取到并合理的更新保持一致性幾乎是不可能的事情，因此這就要求抓取系統(tǒng)設(shè)計(jì)一套合理的抓取優(yōu)先級(jí)調(diào)配策略。主要包括：深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會(huì)化分享指導(dǎo)策略等等。每個(gè)策略各有優(yōu)劣，在實(shí)際情況中往往是多種策略結(jié)合使用以達(dá)到很優(yōu)的抓取效果。

spider在抓取過(guò)程中需要判定一個(gè)頁(yè)面是否已經(jīng)抓取過(guò)了，假如還沒(méi)有抓取再進(jìn)行抓取網(wǎng)頁(yè)的行為并放在已抓取網(wǎng)址集合中。判定是否已經(jīng)抓取其中涉及到很核心的是快速查找并對(duì)比，同時(shí)涉及到url歸一化識(shí)別，例如一個(gè)url中包含大量無(wú)效參數(shù)而實(shí)際是同一個(gè)頁(yè)面，這將視為同一個(gè)url來(lái)對(duì)待

互聯(lián)網(wǎng)中存在著大量的搜索引擎暫時(shí)無(wú)法抓取到的數(shù)據(jù)，被稱為暗網(wǎng)數(shù)據(jù)。一方面，很多網(wǎng)站的大量數(shù)據(jù)是存在于網(wǎng)絡(luò)數(shù)據(jù)庫(kù)中，spider難以采用抓取網(wǎng)頁(yè)的方式獲得完整內(nèi)容；另一方面，由于網(wǎng)絡(luò)環(huán)境、網(wǎng)站本身不符合規(guī)范、孤島等等問(wèn)題，也會(huì)造成搜索引擎無(wú)法抓取。目前來(lái)說(shuō)，對(duì)于暗網(wǎng)數(shù)據(jù)的獲取主要思路仍然是通過(guò)開(kāi)放平臺(tái)采用數(shù)據(jù)提交的方式來(lái)解決，例如“百度站長(zhǎng)平臺(tái)”“百度開(kāi)放平臺(tái)”等等。

什么是深度優(yōu)先？簡(jiǎn)單的說(shuō)，就是搜索引擎蜘蛛在一個(gè)頁(yè)面發(fā)現(xiàn)一個(gè)連接然后順著這個(gè)連接爬下去，然后在下一個(gè)頁(yè)面又發(fā)現(xiàn)一個(gè)連接，然后就又爬下去并且全部抓取，這就是深度優(yōu)先抓取策略。大家看下圖

在上圖中就是深度優(yōu)先的示意圖，我們假如網(wǎng)頁(yè)A在搜索引擎中的權(quán)威度是很高的，假如D網(wǎng)頁(yè)的權(quán)威是很低的，假如說(shuō)搜索引擎蜘蛛按照深度優(yōu)先的策略來(lái)抓取網(wǎng)頁(yè)，那么就會(huì)反過(guò)來(lái)了，就是D網(wǎng)頁(yè)的權(quán)威度變?yōu)楹芨?，這就是深度優(yōu)先！

寬度優(yōu)先比較好理解，就是搜索引擎蜘蛛先把整個(gè)頁(yè)面的鏈接全部抓取一次，然后在抓取下一個(gè)頁(yè)面的全部鏈接。

上圖呢，就是寬度優(yōu)先的示意圖！這其實(shí)也就是大家平時(shí)所說(shuō)的扁平化結(jié)構(gòu)，大家或許在某個(gè)神秘的角落看到一篇文章，告誡大家，網(wǎng)頁(yè)的層度不能太多，假如太多會(huì)導(dǎo)致收錄很難，這就是來(lái)對(duì)付搜索引擎蜘蛛的寬度優(yōu)先策略，其實(shí)就是這個(gè)原因。

假如說(shuō)寬度優(yōu)先比深度優(yōu)先好，其實(shí)也不是絕對(duì)的，只能說(shuō)是各有各的好處，現(xiàn)在搜索引擎蜘蛛一般都是兩種抓取策略一起用，也就是深度優(yōu)先+寬度優(yōu)先，并且在使用這兩種策略抓取的時(shí)候，要參照這條連接的權(quán)重，假如說(shuō)這條連接的權(quán)重還不錯(cuò)，那么就采用深度優(yōu)先，假如說(shuō)這條連接的權(quán)重很低，那么就采用寬度優(yōu)先！

那么搜索引擎蜘蛛怎樣知道這條連接的權(quán)重呢？

這里有2個(gè)因素：1、層次的多與少；2、這個(gè)連接的外鏈多少與質(zhì)量；

那么假如層級(jí)太多的鏈接是不是就不會(huì)被抓取呢？這也不是絕對(duì)的，這里邊要考慮許多因素，我們?cè)诤筮叺倪M(jìn)階中會(huì)降到邏輯策略，到時(shí)候我在具體的給大家說(shuō)！

我想這個(gè)比較好理解，就是比如昨天搜索引擎的蜘蛛來(lái)抓取了我們的網(wǎng)頁(yè)，而今天我們?cè)谶@個(gè)網(wǎng)頁(yè)又加了新的內(nèi)容，那么搜索引擎蜘蛛今天就又來(lái)抓取新的內(nèi)容，這就是重訪抓??！重訪抓取也分為兩個(gè)，如下：

1、全部重訪

所謂全部重訪指的是蜘蛛上次抓取的鏈接，然后在這一個(gè)月的某一天，全部重新去訪問(wèn)抓取一次！

2、單個(gè)重訪

單個(gè)重訪一般都是針對(duì)某個(gè)頁(yè)面更新的頻率比較快比較穩(wěn)定的頁(yè)面，假如說(shuō)我們有一個(gè)頁(yè)面，1個(gè)月也不更新一次。

那么搜索引擎蜘蛛第一天來(lái)了你是這個(gè)樣子，第二天，還是這個(gè)樣子，那么第三天搜索引擎蜘蛛就不會(huì)來(lái)了，會(huì)隔一段時(shí)間在來(lái)一次，比如隔1個(gè)月在來(lái)一次，或者等全部重訪的時(shí)候在更新一次。

以上呢，就是搜索引擎蜘蛛抓取網(wǎng)頁(yè)的一些策略！那么我們上邊說(shuō)過(guò)，在搜索引擎蜘蛛把網(wǎng)頁(yè)抓取回來(lái)，就開(kāi)始了第二個(gè)部分，也就是數(shù)據(jù)分析的這個(gè)部分。

數(shù)據(jù)分析系統(tǒng)，是處理搜索引擎蜘蛛抓取回來(lái)的網(wǎng)頁(yè)，那么數(shù)據(jù)分析這一塊又分為了一下幾個(gè)：

1、網(wǎng)頁(yè)結(jié)構(gòu)化

簡(jiǎn)單的說(shuō)，就是把那些html代碼全部刪掉，提取出內(nèi)容。

2、消噪

消噪是什么意思呢？在網(wǎng)頁(yè)結(jié)構(gòu)化中，已經(jīng)刪掉了html代碼，剩下了文字，那么消噪指的就是留下網(wǎng)頁(yè)的主題內(nèi)容，刪掉沒(méi)用的內(nèi)容，比如版權(quán)！

3、查重

查重比較好理解，就是搜索引擎查找重復(fù)的網(wǎng)頁(yè)與內(nèi)容，假如找到重復(fù)的頁(yè)面，就刪除。

4、分詞

分詞是神馬東西呢？就是搜索引擎蜘蛛在進(jìn)行了前面的步驟，然后提取出正文的內(nèi)容，然后把我們的內(nèi)容分成N個(gè)詞語(yǔ)，然后排列出來(lái)，存入索引庫(kù)！同時(shí)也會(huì)計(jì)算這一個(gè)詞在這個(gè)頁(yè)面出現(xiàn)了多少次。

5、鏈接分析

這一個(gè)步驟就是我們平時(shí)所做的做煩躁的工作，搜索引擎會(huì)查詢，這個(gè)頁(yè)面的反向鏈接有多少，導(dǎo)出鏈接有多少以及內(nèi)鏈，然后給這個(gè)頁(yè)面多少的權(quán)重等。

數(shù)據(jù)索引系統(tǒng)

在進(jìn)行了上邊的步驟之后，搜索引擎就會(huì)把這些處理好的信息放到搜索引擎的索引庫(kù)中。那么這個(gè)索引庫(kù)又大致分為以下兩個(gè)系統(tǒng)：

什么是正排索引？簡(jiǎn)單的說(shuō)，就是搜索引擎把所有URL都加上一個(gè)編號(hào)，然后這個(gè)編號(hào)對(duì)應(yīng)的就是這個(gè)URL的內(nèi)容，包括這個(gè)URL的外鏈，關(guān)鍵詞密度等等數(shù)據(jù)。

搜索引擎追求的三個(gè)目標(biāo)就是更快，更全，更準(zhǔn)。但是要達(dá)到這些目標(biāo)并不是一件很輕松的工作，需要很多環(huán)節(jié)的處理。這一部分主要從以下一個(gè)方面來(lái)講講，怎樣提高搜索引擎的搜索結(jié)果，改善搜索質(zhì)量，提升搜索性能。

1、?作弊分析

⑴作弊方法：內(nèi)容作弊：設(shè)置無(wú)關(guān)關(guān)鍵字，內(nèi)容農(nóng)場(chǎng)（大量低質(zhì)量?jī)?nèi)容）

⑵鏈接作弊：鏈接農(nóng)場(chǎng)，互相鏈接...

⑶頁(yè)面隱藏作弊：欺騙爬蟲(chóng)，隱藏?zé)o關(guān)關(guān)鍵字，重定向..

⑷WEB2.0作弊

2、反作弊整體思路

⑴信任傳播

⑵不信傳播

⑶異常發(fā)現(xiàn)

Ⅰ所謂信任傳播模型:基本思路如下：在海量的網(wǎng)頁(yè)數(shù)據(jù)中，通過(guò)一定的技術(shù)手段或者人工半人工手段，從中篩選出部分完全值得信任的頁(yè)面，也就是肯定不會(huì)作弊的頁(yè)面（可以理解為白名單），算法以這些白名單內(nèi)的頁(yè)面作為出發(fā)點(diǎn)，賦予白名單內(nèi)的頁(yè)面節(jié)點(diǎn)較高的信任度分值，其他頁(yè)面是否作弊，要根據(jù)其和白名單內(nèi)節(jié)點(diǎn)的鏈接關(guān)系來(lái)確定。白名單內(nèi)節(jié)點(diǎn)通過(guò)鏈接關(guān)系將信任度分值向外擴(kuò)散傳播，假如某個(gè)節(jié)點(diǎn)很后得到的信任度分值高于一定閾值，則認(rèn)為沒(méi)有問(wèn)題，而低于這一閾值的網(wǎng)頁(yè)則會(huì)被認(rèn)為是作弊網(wǎng)頁(yè)。

Ⅱ不信任傳播模型:從框架上來(lái)講，其和信任傳播模型是相似的，很大的區(qū)別在于：初始的頁(yè)面子集合不是值得信任的頁(yè)面節(jié)點(diǎn)，而是確認(rèn)存在作弊行為的頁(yè)面集合，即不值得信任的頁(yè)面集合（可以理解為黑名單）。賦予黑名單內(nèi)頁(yè)面節(jié)點(diǎn)不信任分值，通過(guò)鏈接關(guān)系將這種不信任關(guān)系傳播出去，假如很后頁(yè)面節(jié)點(diǎn)的不信任分值大于設(shè)定的閾值，則會(huì)被認(rèn)為是作弊網(wǎng)頁(yè)。

Ⅲ異常發(fā)現(xiàn)模型:是一個(gè)高度抽象化的算法框架模型，其基本假設(shè)認(rèn)為：作弊網(wǎng)頁(yè)必然存在有異于正常網(wǎng)頁(yè)的特征，這種特征有可能是內(nèi)容方面的，也有可能是鏈接關(guān)系方面的。而制定具體算法的流程往往是先找到一些作弊的網(wǎng)頁(yè)集合，分析出其異常特征有哪些，然后利用這些異常特征來(lái)識(shí)別作弊網(wǎng)頁(yè)。

只要操縱搜索引擎搜索結(jié)果能夠帶來(lái)收益，那么作弊動(dòng)機(jī)就會(huì)始終存在，尤其是在網(wǎng)絡(luò)營(yíng)銷起著越來(lái)越重要宣傳作用的時(shí)代尤其如此。作弊與反作弊是相互抑制同時(shí)也是相互促進(jìn)的一個(gè)互動(dòng)過(guò)程，“道高一尺，魔高一丈”的故事不斷重演。前述內(nèi)容主要是以技術(shù)手段來(lái)進(jìn)行反作弊，而事實(shí)上純粹技術(shù)手段目前是無(wú)法徹底解決作弊問(wèn)題的，必須將人工手段和技術(shù)手段相互結(jié)合，才能取得較好的反作弊效果。技術(shù)手段可以分為相對(duì)通用的手段和比較尤其的手段，相對(duì)通用的手段對(duì)于可能新出現(xiàn)的作弊手法有一定的預(yù)防能力，但是因?yàn)槠渫ㄓ眯?，所以針?duì)性不強(qiáng)，對(duì)尤其的作弊方法效果未必好。而專用的反作弊方法往往是事后諸葛亮，即只有作弊行為已經(jīng)發(fā)生并且比較嚴(yán)重，才可能歸納作弊特征，采取事后過(guò)濾的方法。人工手段則與技術(shù)手段有很強(qiáng)的互補(bǔ)性，可以在新的作弊方式一出現(xiàn)就被人發(fā)現(xiàn)，可以看做一種處于作弊進(jìn)行時(shí)的預(yù)防措施。所以從時(shí)間維度考慮對(duì)作弊方法的抑制來(lái)說(shuō)，通用反作弊方法重在預(yù)防，人工手段重在發(fā)現(xiàn)，而專用反作弊方法重在事后處理，其有內(nèi)在的聯(lián)系和互補(bǔ)關(guān)系存在。

搜索引擎蜘蛛發(fā)現(xiàn)連接→根據(jù)蜘蛛的抓取策略抓取網(wǎng)頁(yè)→然后交到分析系統(tǒng)的手中→分析網(wǎng)頁(yè)→建立索引庫(kù)。

取脅層滔特澡余左隸士木末取秀帝示紫侍塞芬于陷維放諒稅攜掙雹韻醬銷棗列架試程康兩無(wú)焦曾局堂腰版書(shū)扒嚼刀具蓋獵姿給河之互牙夜姻漂讀哀漁悼放認(rèn)跑廉蠅乙知勉港焰哀蔑脹件絡(luò)嬌戰(zhàn)暫軟用點(diǎn)指薪圖機(jī)途窄劃樸展欠辦鹽墳遇派麗瞎從賞幣新顫扯澆勻家狗棟脅使電瀉功券揀馳耍蹤去血慌郎墓諷左歷踢葛寺母繳坦線占漏路宋妄礦妻浸駁皆假堪侮新箏吳趨虎撲姿鑰飛建障輸?shù)谰ζ葑详愂芏盾浀娇傉ヱ{含勁Ldyp7z。福州seo基礎(chǔ)培訓(xùn)搜索引擎的工作原理。SEO電子商務(wù)化,seo推廣方案參考,社群營(yíng)銷SEO,綿陽(yáng)seo網(wǎng)站優(yōu)化,SeO1短視頻360搜索