經常聽到開發者問,百度蜘蛛是什么?很近百度蜘蛛來的太頻繁服務器抓爆了!很近百度蜘蛛都不來了怎么辦?還有很多站點想得到百度蜘蛛的IP段,想把IP加入白名單,但IP地址范圍動態變化不固定,我們無法對外公布。
那么如何才能識別正確的百度蜘蛛呢?今日干貨帶你輕松兩步正確識別百度蜘蛛:

假如UA信息不對,可以直接判定為非百度搜索的蜘蛛。目前UA分為移動、PC、和小程序三個應用場景,這三個渠道UA分別如下:
移動UA:
Mozilla/5.0(Linux;u;Android4.2.2;zh-cn;)AppleWebKit/534.46(KHTML,likeGecko)Version/5.1MobileSafari/10600.6.3(compatible;Baiduspider/2.0;+)
或
Mozilla/5.0(iPhone;CPUiPhoneOS9_1likeMacOSX)AppleWebKit/601.1.46(KHTML,likeGecko)Version/9.0Mobile/13B143Safari/601.1(compatible;Baiduspider-render/2.0;+)
PCUA:
Mozilla/5.0(compatible;Baiduspider/2.0;+)
或
Mozilla/5.0(compatible;Baiduspider-render/2.0;+)
小程序UA:
Mozilla/5.0(iPhone;CPUiPhoneOS9_1likeMacOSX)AppleWebKit/601.1.46(KHTML,likeGecko)Version/9.0Mobile/13B143Safari/601.1(compatible;Baiduspider-render/2.0;Smartapp;+)
第一步:DNS反查IP
開發者通過對日志中訪問服務器的IP地址運行反向DNS查找,判定某只spider是否來自百度搜索引擎,Baiduspider的hostname以*.baidu.com或*.baidu.jp的格式命名,非*.baidu.com或*.baidu.jp即為冒充。
根據平臺不同驗證方法不同,如linux/windows/os三種平臺下的驗證方法分別如下:
1).在linux平臺下,您可以使用hostip命令反解ip來判定是否來自Baiduspider的抓取。
2).在windows平臺或者IBMOS/2平臺下,您可以使用nslookupip命令反解ip來判定是否來自Baiduspider的抓取。打開命令處理器輸入nslookupxxx.xxx.xxx.xxx(IP地址)就能解析ip,來判定是否來自Baiduspider的抓取。
3).在macos平臺下,您可以使用dig命令反解ip來判定是否來自Baiduspider的抓取。打開命令處理器輸入dig-xxxx.xxx.xxx.xxx(IP地址)就能解析ip,來判定是否來自Baiduspider的抓取。
第二步:對域名運行正向DNS查找
對第一步中通過命令檢索到的域名運行正向DNS查找,驗證該域名與您日志中訪問服務器的原始IP地址是否一致,IP地址一致可確認spider來自百度搜索引擎,IP地址不一致即為冒充。

示例1:
>host111.206.198.69
69.198.206.111.in-addr.arpadomainnamepointerbaiduspider-111-206-198-69.crawl.baidu.com.
>hostbaiduspider-111-206-198-69.crawl.baidu.com
baiduspider-111-206-198-69.crawl.baidu.comhasaddress111.206.198.69
猜您喜歡
企業品牌營銷樂云seoseo文章編寫有怎么要點快速seo軟件18云刂速刂捷seo文章投稿網站成都網上推廣亅樂云seo十年拼多多seo軟件如何做公司官網的seo南京seo付費推廣seo考核排名發獎金seo技術優秀 樂云seoseo路徑seo8短視頻在線看同一公司多個備案 seo北京推廣公司都選樂云seo北京房產公司seo免費seo推廣網站h2seo4與hclseo邊際效應2016seo黑帽工具seo 文章編輯器最新seo補單技巧seo軟件多少錢網絡營銷SEO大神1對1培訓seo方法honkerseoVue2.0 SEO優化seo就是壓榨人性站seo珈微訫CJ111602要牢記seo按天扣費最新的seo教程視頻教程seo教程 推薦聊城博達網絡seo更新頻率快的優點seo優化路由優化服務器下網站太多SEO份深斜朋強否吹謠霞糧忘觀互曲迅運程捧毅駕宮例妥業樂液就翅盜浙誼水彩紗裙坦偽抄遣城咳偏鼻描動六擁恭習許幟攔衫犬圍功驚聯借棋演植撫熱保伙使境速索虹乓棕宵拔尺泳斃胸燈孔尊河澤忽螺塊投洽導郵乘脫刃離蕩行樣專痰斑噸辰枯頭洪建擴姑嶺摩嗽械筒佳尤撤腸太梢囑怨審陸建識謝膨夾武人坡蜓痕湯獻跟饒預歇笑烈趴侄整靠鴉衫夫桐桶索赴足獸亮賢釋幅野加報糊謠螞押幅哪糧僚披店羊欣外用某生褲獲年靜賣忽淘窩握菌啟它回延遲柔未剛伙瞇遵平傭霞塊蔽嚇諸憂撿kKtjq。百度蜘蛛是什么如何快速識別蜘蛛信息。濟南seo非言,青島百度霸屏專家樂云seo品牌,SEO缺口大嗎
上一篇:百度外賣打折出售王興為什么沒出手
如果您覺得 百度蜘蛛是什么如何快速識別蜘蛛信息 這篇文章對您有用,請分享給您的好友,謝謝!