發(fā)布日期：2017/4/4

搜索引擎蜘蛛程序，其實(shí)就是搜索引擎的一個(gè)主動(dòng)應(yīng)用程序，它的作用是什么呢？其實(shí)很簡(jiǎn)單，就是在互聯(lián)網(wǎng)中瀏覽信息上海做網(wǎng)站網(wǎng)站，然后把這些信息都抓取到搜索引擎的服務(wù)器上，然后建立索引庫等等，我們可以把搜索引擎蜘蛛當(dāng)做一個(gè)用戶，然后這個(gè)用戶來訪問我們的網(wǎng)站，然后在把我們網(wǎng)站的內(nèi)容保存到自己的電腦上！ △從互聯(lián)網(wǎng)上抓取網(wǎng)頁 行使能夠從互聯(lián)網(wǎng)上主動(dòng)收集網(wǎng)頁的Spider系統(tǒng)程序，主動(dòng)訪問互聯(lián)網(wǎng)，并沿著任何網(wǎng)頁中的所有URL爬到其它網(wǎng)頁，重復(fù)這過程，并把爬過的所有網(wǎng)頁收集回來。 網(wǎng)頁搜集，其實(shí)就是大家常說的蜘蛛抓取網(wǎng)頁。那么對(duì)于蜘蛛（google稱之為機(jī)器人）來說，他們感愛好的頁面分為三類： 1.蜘蛛從未抓去過的新頁面。 2.蜘蛛抓取過，但頁面內(nèi)容有改動(dòng)的頁面。 3.蜘蛛抓取過，但現(xiàn)在已刪除了的頁面。 蜘蛛是怎么來的呢？針對(duì)于此，各方有各方的觀點(diǎn)。有一種說法，說蜘蛛的抓取是從種子站（或叫高權(quán)重站），依照權(quán)重由高至低逐層出發(fā)的。另一種說法蜘蛛 爬在URL薈萃中是沒有顯明先后順序的，搜索引擎會(huì)根據(jù)你網(wǎng)站內(nèi)容更新的規(guī)律，主動(dòng)計(jì)算出何時(shí)是爬取你網(wǎng)站的好佳時(shí)機(jī)，然后進(jìn)行抓取。其實(shí)對(duì)于不同的搜索引擎，其抓掏出發(fā)點(diǎn)定然會(huì)有所區(qū)別，針對(duì)于 ，筆者較為傾向于后者。在 官方博客發(fā)布的《索引頁鏈接補(bǔ)全機(jī)制的一種辦法》一文中，其明確指出“spider會(huì)盡量探測(cè)網(wǎng)頁的發(fā)布周期，以合理的頻率來檢查網(wǎng)頁”，由此我們可以推斷，在 的索引庫中，針對(duì)每個(gè)URL薈萃，其都計(jì)算出適合其的抓取時(shí)間以及一系列參數(shù)，然后對(duì)響應(yīng)站點(diǎn)進(jìn)行抓取。 △建立索引數(shù)據(jù)庫 搜索引擎的“網(wǎng)絡(luò)機(jī)器人”或“網(wǎng)絡(luò)蜘蛛”是一種網(wǎng)絡(luò)上的軟件，它遍歷Web空間，能夠掃描一定IP地址范圍內(nèi)的網(wǎng)站，并沿著網(wǎng)絡(luò)上的鏈接從一個(gè)網(wǎng)頁到另一個(gè)網(wǎng)頁，從一個(gè)網(wǎng)站到另一個(gè)網(wǎng)站采集網(wǎng)頁資料。它為保證采集的資料好新，還會(huì)回訪已抓取過的網(wǎng)頁。網(wǎng)絡(luò)機(jī)器人或網(wǎng)絡(luò)蜘蛛采集的網(wǎng)頁，還要有其它程序進(jìn)行分析，根據(jù)一定的相關(guān)度算法進(jìn)行大量的計(jì)算建立網(wǎng)頁索引，才能添加到索引數(shù)據(jù)庫中。 △在索引數(shù)據(jù)庫中搜索排序 真正意義上的搜索引擎，通常指的是收集了因特網(wǎng)上幾萬萬到幾十億個(gè)網(wǎng)頁并對(duì)網(wǎng)頁中的每一個(gè)詞（即關(guān)鍵詞）進(jìn)行索引，建立索引數(shù)據(jù)庫的全文搜索引擎。當(dāng)用戶查找某個(gè)關(guān)鍵詞的時(shí)候，所有在頁面內(nèi)容中包含了該關(guān)鍵詞的網(wǎng)頁都將作為搜索效果被搜出來。在經(jīng)過復(fù)雜的算法進(jìn)行排序后百度優(yōu)化，這些效果將按照與搜索關(guān)鍵詞的相關(guān)度 真正意義上的搜索引擎，通常指的是收集了因特網(wǎng)上幾萬萬到幾十億個(gè)網(wǎng)頁并對(duì)網(wǎng)頁中的每一個(gè)詞（即關(guān)鍵詞）進(jìn)行索引，建立索引數(shù)據(jù)庫的全文搜索引擎。當(dāng)用戶查找某個(gè)關(guān)鍵詞的時(shí)候，所有在頁面內(nèi)容中包含了該關(guān)鍵詞的網(wǎng)頁都將作為搜索效果被搜出來。在經(jīng)過復(fù)雜的算法進(jìn)行排序后，這些效果將按照與搜索關(guān)鍵詞的相關(guān)度高低，依次排列。