詳解搜索引擎蜘蛛相關原理

網絡蜘蛛在更新網站建設內容的時候，一般來說。不用把網站網頁重新抓取一遍，對于大部分的網頁，只需要判斷網頁的屬性（主要是日期）把得到屬性和上次抓取的屬性相比較，如果一樣則不用更新。

但搜索引擎為互聯網所作出的巨大貢獻卻顯而易見，搜索引擎的歷史并不長。搜索引擎改變了世界，改變了用戶的使用習慣，讓我對互聯網的未來充溢信心。

第一個搜索引擎甚至沒有分析網頁的副本，搜索引擎起步的時候做的并不好。而且沒有排名的規范，為了深度挖掘商業潛力，這才推動搜索引擎漸漸發展，研發更先進的系統。

2001年花65億美元購買了@主頁。開始推廣的時候，第一個比較大的商業搜索引擎是美國的斯坦福大學。最大的競爭對手是網址站，主要是因為那時候搜索結果中很多都是垃圾郵件，而且人們還不習慣用搜索引擎。

通常叫做關鍵詞堆砌。一旦搜索關鍵詞，元標記是協助搜索引擎排序的一個工具。那關鍵字和元標志就會告訴搜索引擎內容是哪一頁，很短的時間做好中繼標記工作，提供相關搜索結果，但隨著一些企業的市場營銷經驗增加，很容易提高關鍵詞的排名，那時候比較流行“貸款、貸款、貸款”之類的關鍵詞堆砌，所以當時搜索引擎的垃圾信息泛濫成災，造成許多用戶的不信任感。

那時候一些重要的搜索引擎包括：EINet銀河、WebCrawl萊科斯、InfoseekInktomiAskAllTheWeb等。

每一個搜索引擎都有三個主要局部組成：

1蜘蛛

然后分析該網頁。蜘蛛的工作職責是發現新的網頁并收集這些網頁的快照。

比如掃描網頁，蜘蛛以抓取頁面為主。所有的搜索引擎都能夠實現深層檢索和快速檢索。深層檢索中，蜘蛛可以查找和掃描網頁內的所有內容；快速檢索中，蜘蛛不遵循深層檢索的規則，只搜索重要的關鍵詞局部，而不檢查和掃描網頁里的所有內容。

也就是說蜘蛛爬行和收錄的網頁速度越快，大家都知道網站最重要的快照時間。就說明這個網站在搜索引擎心中越重要，比如新華網和人民網，蜘蛛每小時爬4次以上，有的網站一個月也不見得能被蜘蛛爬一次?？煺盏淖ト∷饺Q于網站內容的流行度、更新速度與網站域名的新舊。

如果有許多外部鏈接指向這個SEO網站，蜘蛛的爬行規則中。那就說明這個網站比較重要，所以抓取這個網站的頻率很高。當然，搜索引擎這樣做也是為了省錢，如果都以同樣的頻率爬行所有網站，這樣需要更多的時間和成本，才干得到更全面的搜索結果。

2指數

可能會重復檢查網頁的內容，蜘蛛在爬行的過程中。然后檢查網站內容是否是復制其他網站的以保證網站原創內容的指數，該指數的結果一般都是基本堅持復制內容的排序搜索結果。當你進行搜索時，搜索引擎不會從網絡上搜索，會從指數中選擇搜索結果，所以搜索得到網頁數量并不能代表整個網站，但蜘蛛會在后臺掃描和保存網站的網頁數量。

谷歌1-10個搜索結果約為16.05萬，搜索結果數量中。還有每個區域的搜索結果排名，這些都可以用搜索引擎的算法指數來控制，或者說是控制一部分。

當你輸入需要搜索的關鍵詞的時候，每個搜索引擎在全國或全世界各地都建立數據中心。會由于數據更新的時間不同而致搜索結果同步，所以在不同的地區就會出現不同的搜索結果。

3Web界面

算法都是從指數內調用結果，當你使用搜索引擎所看到界面（比方google.combaidu.com搜索結果取決于復雜的算法。通過查詢并分析才能在前臺顯示，所以算法的制作時間比較長，谷歌在這個技術領域上領先。

這類特性在英文搜索上比較常見，還有一些搜索引擎的一站式”特性。一般來說，搜索引擎忽略“一站式”話，這樣的搜索結果將更加正確，比如搜索“貓，狗”時候，搜索引擎會排除“貓和狗”只搜索“貓”狗”

一般搜索引擎看到某網頁上的關鍵詞逾越密度范圍，關鍵詞密度衡量一個關鍵詞呈現在網頁上的頻率。那它就會分析該網頁是否作弊，現在搜索引擎可以做到任何地域的字詞相關度處置。所以在一般情況下，關鍵詞應該在整個網頁中分散，但一定要有某個標題或段落臨時不變。

除了網頁排名和一般的鏈接，搜索引擎還有個核心分析技術就是鏈接的相關性分析。谷歌還看重錨文本鏈接，錨文本鏈接主要在于鏈接的年齡和位置，還有該鏈接的網頁是否屬于權威網站等。

搜索引擎都很關注著，鏈接是最大的網站質量指標。因為現在友情鏈接比較難找，而你又很需要友情鏈接，所以鏈接中很少有垃圾信息。比如大學的網站在谷歌的權重很高，那是由于大學有很多高質量的外部鏈接。隨著大家都了解到外部鏈接的重要性后，很多網站開始買賣鏈接，這也是現在搜索引擎比較頭疼的問題，不過ask現在判定網站排名更多在于網站的質量。

期待在查詢之前、搜索查詢、時間間隔、和語義關系等方面，所有的搜索引擎都希望得到用戶反饋的信息。能更加了解到用戶的意圖，還會跟蹤用戶的點擊，如果用戶點擊一個物品，然后又馬上回到搜索頁面，那搜索引擎就會認為這個購買不成功，會刪除跟蹤清單，其實這種做法已經在向電子商務靠近了

搜索引擎已經開始注重用戶體驗，由此可以看出。為了做讓用戶肯定自己的勞動效果，并成為搜索引擎行業的一個標準，或許未來的發展就在個性化搜索。

搜索引擎的工作原理大致可以分為：

就象日常生活中所說的一傳十，搜集信息：搜索引擎的信息搜集基本都是自動的搜索引擎利用稱為網絡蜘蛛(spider自動搜索機器人順序來連上每一個網頁上的超連結。機器人順序根據網頁鏈到其他中的超鏈接。十傳百…一樣，從少數幾個網頁開始，連到數據庫上所有到其他網頁的鏈接。理論上，若網頁上有適當的超連結，機器人便可以遍歷絕大部分網頁。

還要將它依照一定的規則進行編排。這樣，整理信息：搜索引擎整理信息的過程稱為“建立索引”搜索引擎不只要保管搜集起來的信息。搜索引擎根本不用重新翻查它所有保管的信息而迅速找到所要的資料。想象一下，如果信息是不按任何規則地隨意堆放在搜索引擎的數據庫中，那么它每次找資料都得把整個資料庫完全翻查一遍，如此一來再快的計算機系統也沒有用。

搜索引擎接受查詢并向用戶返回資料。搜索引擎每時每刻都要接到來自大量用戶的幾乎是同時發出的查詢，接受查詢：用戶向搜索引擎發出查詢。依照每個用戶的要求檢查自己的索引，極短時間內找到用戶需要的資料，并返回給用戶。目前，搜索引擎返回主要是以網頁鏈接的形式提供的這些通過這些鏈接，用戶便能到達含有自己所需資料的網頁。通常搜索引擎會在這些鏈接下提供一小段來自這些網頁的摘要信息以協助用戶判斷此網頁是否含有自己需要的內容。

網絡蜘蛛原理

那么Spider就是網上爬來爬去的蜘蛛。網絡蜘蛛是通過網頁的鏈接地址來尋找網頁，網絡蜘蛛即WebSpider一個很形象的名字。把互聯網比喻成一個蜘蛛網。從網站某一個頁面（通常是首頁）開始，讀取網頁的內容，找到網頁中的其它鏈接地址，然后通過這些鏈接地址尋找下一個網頁，這樣一直循環下去，直到把這個網站所有的網頁都抓取完為止。如果把整個互聯網當成一個網站，那么網絡蜘蛛就可以用這個原理把互聯網上所有的網頁都抓取下來。

要抓取互聯網上所有的網頁幾乎是不可能的從目前公布的數據來看，對于搜索引擎來說。容量最大的搜索引擎也不過是抓取了整個網頁數量的百分之四十左右。這其中的原因一方面是抓取技術的瓶頸，無法遍歷所有的網頁，有許多網頁無法從其它網頁的鏈接中找到另一個原因是存儲技術和處理技術的問題，如果依照每個頁面的平均大小為20K計算（包括圖片）100億網頁的容量是1002000G字節，即使能夠存儲，下載也存在問題（依照一臺機器每秒下載20K計算，需要340臺機器不停的下載一年時間，才干把所有網頁下載完畢）同時，由于數據量太大，提供搜索時也會有效率方面的影響。因此，許多搜索引擎的網絡蜘蛛只是抓取那些重要的網頁，而在抓取的時候評價重要性主要的依據是某個網頁的鏈接深度。

網絡蜘蛛一般有兩種策略：廣度優先和深度優先（如下圖所示）廣度優先是指網絡蜘蛛會先抓取起始網頁中鏈接的所有網頁，抓取網頁的時候。然后再選擇其中的一個鏈接網頁，繼續抓取在此網頁中鏈接的所有網頁。這是最常用的方式，因為這個方法可以讓網絡蜘蛛并行處理，提高其抓取速度。深度優先是指網絡蜘蛛會從起始頁開始，一個鏈接一個鏈接跟蹤下去，處置完這條線路之后再轉入下一個起始頁，繼續跟蹤鏈接。這個方法有個優點是網絡蜘蛛在設計的時候比較容易。兩種策略的區別，下圖的說明會更加明確。

有些網絡蜘蛛對一些不太重要的網站，由于不可能抓取所有的網頁。設置了訪問的層數。例如，上圖中，A為起始網頁，屬于0層，BCDEF屬于第1層，GH屬于第2層，I屬于第3層。如果網絡蜘蛛設置的訪問層數為2話，網頁I不會被訪問到這也讓有些網站上一局部網頁能夠在搜索引擎上搜索到另外一局部不能被搜索到對于網站設計者來說，扁平化的網站結構設計有助于搜索引擎抓取其更多的網頁。

經常會遇到加密數據和網頁權限的問題，網絡蜘蛛在訪問網站網頁的時候。有些網頁是需要會員權限才干訪問。當然，網站的所有者可以通過協議讓網絡蜘蛛不去抓取（下小節會介紹）但對于一些**演講的網站，希望搜索引擎能搜索到演講，但又不能完全**讓搜索者查看，這樣就需要給網絡蜘蛛提供相應的用戶名和密碼。網絡蜘蛛可以通過所給的權限對這些網頁進行網頁抓取，從而提供搜索。而當搜索者點擊檢查該網頁的時候，同樣需要搜索者提供相應的權限驗證。

網站與網絡蜘蛛

不同于一般的訪問，網絡蜘蛛需要抓取網頁。如果控制不好，則會引起網站服務器負擔過重。今年4月，淘寶網就因為雅虎搜索引擎的網絡蜘蛛抓取其數據引起淘寶網服務器的不穩定。網站是否就無法和網絡蜘蛛交流呢？其實不然，有多種方法可以讓網站和網絡蜘蛛進行交流。一方面讓網站管理員了解網絡蜘蛛都來自哪兒，做了些什么，另一方面也告訴網絡蜘蛛哪些網頁不應該抓取，哪些網頁應該更新。

抓取網頁的時候，每個網絡蜘蛛都有自己的名字。都會向網站標明自己的身份。網絡蜘蛛在抓取網頁的時候會發送一個請求，這個請求中就有一個字段為Useragent用于標識此網絡蜘蛛的身份。例如Googl網絡蜘蛛的標識為GoogleBotBaidu網絡蜘蛛的標識為BaiDuSpidYahoo網絡蜘蛛的標識為InktomiSlurp如果在網站上有訪問日志記錄，網站管理員就能知道，哪些搜索引擎的網絡蜘蛛過來過，什么時候過來的以及讀了多少數據等等。如果網站管理員發現某個蜘蛛有問題，就通過其標識來和其所有者聯系。

一般會訪問一個特殊的文本文件Robots.txt這個文件一般放在網站服務器的根目錄下，網絡蜘蛛進入一個網站。網站管理員可以通過robots.txt來定義哪些目錄網絡蜘蛛不能訪問，或者哪些目錄對于某些特定的網絡蜘蛛不能訪問。例如有些網站的可執行文件目錄和臨時文件目錄不希望被搜索引擎搜索到那么網站管理員就可以把這些目錄定義為拒絕訪問目錄。Robots.txt語法很簡單，例如如果對目錄沒有任何限制，可以用以下兩行來描述：

User-agent:*

Disallow:

Robots.txt只是一個協議，當然。如果網絡蜘蛛的設計者不遵循這個協議，網站管理員也無法阻止網絡蜘蛛對于某些頁面的訪問，但一般的網絡蜘蛛都會遵循這些協議，而且網站管理員還可以通過其它方式來拒絕網絡蜘蛛對某些網頁的抓取。

會去識別網頁的HTML代碼，網絡蜘蛛在下載網頁的時候。其代碼的局部，會有META 標識。通過這些標識，可以告訴網絡蜘蛛本網頁是否需要被抓取，還可以告訴網絡蜘蛛本網頁中的鏈接是否需要被繼續跟蹤。例如：表示本網頁不需要被抓取，但是網頁內的鏈接需要被跟蹤。

有興趣的讀者檢查文獻[4關于Robots.txt語法和META Tag語法。]

因為這樣可以讓更多的訪問者能通過搜索引擎找到此網站。為了讓本網站的網頁更全面被抓取到網站管理員可以建立一個網站地圖，現在一般的網站都希望搜索引擎能更全面的抓取自己網站的網頁。即SiteMap許多網絡蜘蛛會把sitemap.htm文件作為一個網站網頁爬取的入口，網站管理員可以把網站內部所有網頁的鏈接放在這個文件里面，那么網絡蜘蛛可以很方便的把整個網站抓取下來，防止遺漏某些網頁，也會減小對網站服務器的負擔。

內容提取

處置的對象是文本文件。對于網絡蜘蛛來說，搜索引擎建立網頁索引。抓取下來網頁包括各種格式，包括html圖片、docpdf多媒體、動態網頁及其它格式等。這些文件抓取下來后，需要把這些文件中的文本信息提取進去。準確提取這些文檔的信息，一方面對搜索引擎的搜索準確性有重要作用，另一方面對于網絡蜘蛛正確跟蹤其它鏈接有一定影響。

這種由專業廠商提供的軟件生成的文檔，對于docpdf等文檔。廠商都會提供相應的文本提取接口。網絡蜘蛛只需要調用這些插件的接口，就可以輕松的提取文檔中的文本信息和文件其它相關的信息。

HTML有一套自己的語法，HTML等文檔不一樣。通過不同的命令標識符來表示不同的字體、顏色、位置等版式，如：等，提取文本信息時需要把這些標識符都過濾掉。過濾標識符并非難事，因為這些標識符都有一定的規則，只要依照不同的標識符取得相應的信息即可。但在識別這些信息的時候，需要同步記錄許多版式信息，例如文字的字體大小、否是標題、否是加粗顯示、否是頁面的關鍵詞等，這些信息有助于計算單詞在網頁中的重要水平。同時，對于HTML網頁來說，除了標題和正文以外，會有許多廣告鏈接以及公共的頻道鏈接，這些鏈接和文本正文一點關系也沒有，提取網頁內容的時候，也需要過濾這些無用的鏈接。例如某個網站有“產品介紹”頻道，因為導航條在網站內每個網頁都有，若不過濾導航條鏈接，搜索“產品介紹”時候，則網站內每個網頁都會搜索到無疑會帶來大量垃圾信息。過濾這些無效鏈接需要統計大量的網頁結構規律，抽取一些共性，統一過濾；對于一些重要而結果特殊的網站，還需要個別處置。這就需要網絡蜘蛛的設計有一定的擴展性。

一般是通過鏈接的錨文本（即，對于多媒體、圖片等文件。鏈接文本）和相關的文件注釋來判斷這些文件的內容。例如有一個鏈接文字為“張曼玉照片”其鏈接指向一張bmp格式的圖片，那么網絡蜘蛛就知道這張圖片的內容是張曼玉的照片”這樣，搜索“張曼玉”和“照片”時候都能讓搜索引擎找到這張圖片。另外，許多多媒體文件中有文件屬性，考慮這些屬性也可以更好的解文件的內容。

相對于靜態網頁而言，動態網頁一直是網絡蜘蛛面臨的難題。所謂動態網頁。由順序自動生成的頁面，這樣的好處是可以快速統一更改網頁風格，也可以減少網頁所占服務器的空間，但同樣給網絡蜘蛛的抓取帶來一些麻煩。由于開發語言不時的增多，動態網頁的類型也越來越多，如：aspjspphp等。這些類型的網頁對于網絡蜘蛛來說，可能還稍微容易一些。網絡蜘蛛比較難于處置的一些腳本語言（如VBScript和javascript生成的網頁，如果要完善的處置好這些網頁，網絡蜘蛛需要有自己的腳本解釋順序。對于許多數據是放在數據庫的網站，需要通過本網站的數據庫搜索才干獲得信息，這些給網絡蜘蛛的抓取帶來很大的困難。對于這類網站，如果網站設計者希望這些數據能被搜索引擎搜索，則需要提供一種可以遍歷整個數據庫內容的方法。

一直是網絡蜘蛛中重要的技術。整個系統一般采用插件的形式，對于網頁內容的提取。通過一個插件管理服務順序，遇到不同格式的網頁采用不同的插件處理。這種方式的好處在于擴充性好，以后每發現一種新的類型，就可以把其處置方式做成一個插件補充到插件管理服務順序之中。

更新周期

因此網絡蜘蛛也需不斷的更新其抓取網頁的內容，由于網站的內容經常在變化。這就需要網絡蜘蛛按照一定的周期去掃描網站，檢查哪些頁面是需要更新的頁面，哪些頁面是新增頁面，哪些頁面是已經過期的死鏈接。

則總會有一局部新生成的網頁搜索不到周期過短，搜索引擎的更新周期對搜索引擎搜索的查全率有很大影響。如果更新周期太長。技術實現會有一定難度，而且會對帶寬、服務器的資源都有浪費。搜索引擎的網絡蜘蛛并不是所有的網站都采用同一個周期進行更新，對于一些重要的更新量大的網站，更新的周期短，如有些新聞網站，幾個小時就更新一次；相反對于一些不重要的網站，更新的周期就長，可能一兩個月才更新一次。
本文發布于北京網站建設公司尚品中國http://www.yiyouzhen.cn/