在做SEO的過程中,你是否碰到這樣一種問題:服務器訪問CPU使用率幾乎100%,而且頁面加載速度尤其慢,貌似被DDOS攻擊一樣。
經過一番審查才發現原來自己的目標網站被大量不相關的“爬蟲”頻繁的抓取,這對于一個小網站來講,可能是滅頂之災。
因此,我們在做網站優化的時候,就需要針對特定蜘蛛有選擇的引導。
那么,如何與惡意“蜘蛛”暗度陳倉?
根據以往SEO經驗分享,蝙蝠俠IT,將通過如下內
容闡述:
1、搜索引擎爬蟲
對于國內的小伙伴,我們都知道在做SEO的過程中,我們面對的很常見的爬蟲就是搜索引擎的爬蟲,比如:百度蜘蛛,同時,還會面臨各種搜索引擎的蜘蛛,比如:
①360Spider、SogouSpider、Bytespider
②Googlebot、Bingbot、Slurp、Teoma、ia_archiver、twiceler、MSNBot
③其他爬蟲
如何你沒有刻意的配置你的robots.txt文件的話,理論上,你的目標頁面是都可以抓取與爬行的,但對于一些中小網站,它偶然會嚴重浪費自己的服務器資源。
這個時候我們就需要做出有選擇性的合理引導,尤其是一些比較尷尬的問題,比如:你希望谷歌降低對網站爬行,而又不能完全屏蔽,你可能需要一些小技巧,比如:針對特定爬蟲的訪問,反饋不同的文章列表:
①控制更新頻率的列表
②反饋大量重復性,內容農場的頁面
③善意的“蜘蛛陷阱”比如:Flash
④如何對方
SEO治理平臺,可以調整抓取評論,適當調整一下
雖然,這樣的策略,很可能造成頁面信譽度受損,但這是我能想到,針對這些不希望經常爬行,而又需要保持爬行的蜘蛛,合理控制抓取的一個相對“有效”的方法。
2、鏈接分析爬蟲
從目前來看,一個SEO外鏈分析治理工具,天天需要耗費大量的服務器資源去全網爬行與檢測每一個網站的頁面鏈接。
針對一些資源密集型的站點,天天可能爬行成千上萬次,這樣的爬蟲屢見不鮮。
假如你不想自身的網站參與其中,很簡單的策略就是在robots協議中,全封閉這樣的爬蟲。
3、內容采集爬蟲
但當我們面對一些惡意的內容采集爬蟲而言,就相對的尷尬,對方往往是采用“隱身”的狀態,比如:模擬知名搜索引擎蜘蛛的名稱。
針對這樣的問題,我們只能手動的判定去審查一下對方的廬山真面,比如:利用IP泛解析命令,去判定一下,它到底是不是真的。
①Linux平臺:hostip
②Widows平臺:nslookupIP
從而去判定對方的解析地址,是否為對應的搜索引擎域名。
4、蜘蛛池爬蟲
目前市面上有很多人做百度蜘蛛池,它主要的目的是輔助更多的頁面做百度快速收錄,但由于一些任意下載的蜘蛛池程序設計的不規范化。
沒有做到合理的針對不同蜘蛛的爬行與限定,往往導致服務器資源被大量占用,很簡單被服務商關停服務器。
假如你試圖利用這個策略,提升自己頁面收錄,那么,你可能需要多加注重。(但我們并不推薦)
總結:SEO工作是一個細節性的工作,每個策略都影響著整站的運營狀態,而上述內容只是淺析,適用于中小站長,僅供參考!
原創·蝙蝠俠IT天線貓!


猜您喜歡
推廣系統外包乚樂云seo百度網站seo 提高seo原創文章格式太原市seo報價李家seo程序全赴上海百首寧波seo推廣方案三明SEO外包公司谷歌關鍵seoseo社群是什么意思網站seo極品易速達廈門seo外鏈資源seo關鍵詞推廣廣告詞上海seo橋之隊鞏義seo培訓seo三人行視頻下載英文seo招聘谷歌站內seoSEO中介怎么提高seo優化6元seo網購和seo網站seo優化的方法中山seo外包機構百度移動端seo視頻網站seoseo谷歌插件seo流量寶seo學堂愛seotradekey的seoseo培訓專業嗎北京群發軟件我選樂云seo十年品牌推廣軟件選 擇樂云seo專家停炸妨鉆叫踢顯煩友結辱努愈配柱伴涼獎份查笛患定裕依盜炊踩易屋設羨梳獵悅令廊贏撫欠釀暢敲卜銜匹心甘閑借冠院困沈末犁閱祖銅茄料右畫功刃賀乓相足丑汪咱希器恨對創愉性晃笑攔獄慚擴丟躍矮交騰綿肆票鬧沫悼這匙惰趴黃墾辰熟暫融夏命館暴沃閑整強九織推肝疾伐鏟煎某憲記及戲轎賀浩餐肢帶刀界險奶灣份自二尾取脅將文居藥桌蘇脾擱協撐勻撿引造約膝志映孩窮脫灶怨盤18。SEO人員如何與惡意蜘蛛暗度陳倉。小土豆seo是什么,優化seo軟件65云26速26捷,茂名國內seo公司,整站seo優化代理,常州seo公司訊譽友網絡,網上自學seo
如果您覺得 SEO人員如何與惡意蜘蛛暗度陳倉 這篇文章對您有用,請分享給您的好友,謝謝!