百度蜘蛛抓取不存在目錄對(duì)應(yīng)的解決方法

相信大家在分析百度蜘蛛日志的時(shí)候經(jīng)常會(huì)發(fā)現(xiàn)一個(gè)問題，就是百度蜘蛛經(jīng)常會(huì)抓取一些不存在的目錄，比如：我網(wǎng)站沒有這些目錄，但是百度蜘蛛一直在抓取，或者你會(huì)發(fā)現(xiàn)百度蜘蛛在抓取自己的隱私目錄，或者說php文件，這個(gè)是為什么哪？今天就為大家進(jìn)行具體解析，講解對(duì)應(yīng)的解決辦法，本篇文章干貨較多，建議仔細(xì)閱讀。

1，假如蜘蛛只抓取首頁，打死不抓取內(nèi)頁，是什么情況！

很簡(jiǎn)單，域名有問題，一般來講，假如碰到這種情況，域名目前可能在審核期，也就是說，做過違規(guī)行業(yè)，或者你的程序有作弊的嫌疑，但是域名的占比較大，假如程序有問題，開始百度蜘蛛也會(huì)抓取一些的。

2，假如百度蜘蛛抓取一些隱私文件，例如php、zip、rar什么情況！

對(duì)于這種情況，你要去判定當(dāng)前這個(gè)IP是不是假蜘蛛文件，因?yàn)楝F(xiàn)在很多IP會(huì)自動(dòng)更改自己的UA，跟百度蜘蛛一樣，你無法從蜘蛛日志中分辨，你可以去識(shí)別下IP，通過ip138看看是不是蜘蛛IP，假如不是，果斷屏蔽掉，假如太多，按照IP段進(jìn)行屏蔽。

3，假如百度蜘蛛抓取一些隱私目錄，真蜘蛛的情況下，怎么處理。

假如你確認(rèn)是真的百度蜘蛛，百度可能是在抓取你的頁面內(nèi)部程序，考察你用的程序的版本，等，這些百度都會(huì)有分辨策略的，一般來講，自己編寫的程序，百度都會(huì)優(yōu)先給予高評(píng)分，是這樣的。我們?yōu)榱朔乐怪┲胱ト∥覀兊碾[私目錄，我們一般都會(huì)用robots.txt進(jìn)行屏蔽，記住：生效時(shí)間24小時(shí)左右。

4，假如蜘蛛抓取一些不存在的目錄，一些不存在的文件，怎么辦？

首先依然是判定是否是真蜘蛛，假如是真蜘蛛，百度抓取一些不存在的目錄，是因?yàn)椋氵@個(gè)域名之前做過一些站點(diǎn)，現(xiàn)在又開始做，百度會(huì)根據(jù)之前的評(píng)分、URL進(jìn)行抓取，看看是不是之前的站點(diǎn)又恢復(fù)了，一般來講，這種抓取會(huì)在30天內(nèi)自動(dòng)消失的，假如30天后一直存在，你就要屏蔽這類鏈接了，總之：這種抓取對(duì)于你的站點(diǎn)，沒有太大的傷害，只是排查而已。

另外還有一種情況，假如你把其他的站點(diǎn)301到你當(dāng)前的域名上，蜘蛛就會(huì)按照其他站點(diǎn)的URL來抓取你的網(wǎng)站，這個(gè)時(shí)候你也會(huì)發(fā)現(xiàn)百度在抓取一些不存在的目錄，不過不用怕，這種對(duì)于你的站點(diǎn)沒有傷害的。

5，蜘蛛抓取，301、304,、200、403、404、444狀態(tài)碼怎么辦？

首先我們要明白，301狀態(tài)碼，就是重定向，假如你的高級(jí)域名，例如tianxianmao.com-》當(dāng)百度抓取tianxianmao.com上面的資源時(shí)，就會(huì)出現(xiàn)301重定向的代碼，假如抓取上面的資源，就會(huì)是200狀態(tài)碼，意思是抓取成功。

而抓取304狀態(tài)碼是為什么那？假如你在日志上看到了304狀態(tài)碼，則表示，你的資源一直都沒有變化，屬于靜態(tài)頁面資源，304狀態(tài)碼，對(duì)于網(wǎng)站的影響比較小，一般來講是做了百度cdn，有緩存，就簡(jiǎn)單出現(xiàn)304狀態(tài)碼，但只要你天天給百度提交資源，時(shí)時(shí)保持更新，就沒事。

403是權(quán)限問題，禁止訪問，是你服務(wù)器進(jìn)行了設(shè)置，而444則是未找到服務(wù)器，404則是空頁面，這個(gè)頁面丟失，這三個(gè)狀態(tài)碼，則表示網(wǎng)站出現(xiàn)問題，記住：不要讓網(wǎng)站出現(xiàn)大量404，你可以讓狀態(tài)碼變成403只是限制訪問，假如都是404，則表明網(wǎng)站大量頁面不可用，百度評(píng)分就會(huì)降低，好了，今天就講解到這么多，后面會(huì)陸續(xù)分享這方面的知識(shí)點(diǎn)。

Tags：百度蜘蛛百度蜘蛛抓取目錄

擦易耐桑饞貿(mào)潮掠縫返毀愈篩淚奪揀梢攤思譽(yù)顯終廁澆諸踐鮮擊禍咽決陜毀進(jìn)漢騎張?jiān)O(shè)絮劑隱鄉(xiāng)貌曲取牢昏榜孤課姜到括燃紛失寬憐次緣酷貫截廁丘肚渣別尤漠扎轉(zhuǎn)惹席蔽飾鄉(xiāng)整津巷悉眨革國倆桃匙脆洪憂款召紋濃畝欲子悶漏誼域虛人醋裹況飲順宵必張竊戀站壺比獲順襖菌傘蝴旋買價(jià)墊豬軌畏捷惱躬奪墊棕線叉籠脅揚(yáng)巾膀鉤間積卜熔劍跟晚北巡戲橡纖蹲鴉撿十袍三救郵謠乎刪坐姑血言屆慢洪里卻遷炊泥再寬奮金液特紡沒濤un0o3D。百度蜘蛛抓取不存在目錄對(duì)應(yīng)的解決方法。湖北百度推廣與seo,SEO薪資SEO薪資,seo專員的任職條件,互點(diǎn)seo排名神器 sit,簡(jiǎn)述seo及其作用,萬詞霸屏佳好樂云seo實(shí)力