-
觸屏版
-
全國服務(wù)熱線：0571-87205688
- 云客網(wǎng)首頁
-
登錄
- |
-
注冊
- |
-
客戶中心
- |
-
關(guān)注云客
分析百度蜘蛛抓取暴增的原因有哪些
作者：花開無聲
瀏覽：99次
發(fā)布時間：2017-12-15
分享
評論
贊0
Spider對網(wǎng)站抓取數(shù)量突增往往給網(wǎng)絡(luò)公司站長帶來很大煩惱，紛紛找平臺想要Baiduspider IP白名單，但實際上BaiduSpider IP會隨時變化，所以并不敢公布出來，擔(dān)心站長設(shè)置不及時影響抓取效果。那站點抓取流量暴增的原因有哪些呢?接下來網(wǎng)絡(luò)公司幫助你分析。
總體來說，Baiduspider會根據(jù)站點規(guī)模、歷史上網(wǎng)站每天新產(chǎn)出的鏈接數(shù)量、已抓取網(wǎng)頁的綜合質(zhì)量打分等等，來綜合計算抓取流量，同時兼顧站長在抓取頻次工具里設(shè)置的、網(wǎng)站可承受的最大抓取值。
從目前追查過的抓取流量突增的case中，原因可以分為以下幾種：
1.Baiduspider發(fā)現(xiàn)站內(nèi)JS代碼較多，調(diào)用大量資源針對JS代碼進行解析抓取。
2. 已抓取的鏈接，打分不夠好，垃圾過多，導(dǎo)致spider重新抓取。
3.百度其他部門(如商業(yè)、圖片等)的spider在抓取，但流量沒有控制好。
4.站點被攻擊，有人仿冒百度爬蟲
以上就是網(wǎng)絡(luò)公司站長給大家分析的幾個百度蜘蛛抓取流量暴增的原因。網(wǎng)絡(luò)公司站長需要排除自身問題、仿冒問題，確認BaiduSpider抓取流量過大的話，也可以通過反饋中心來反饋，切記一定要提供詳細的抓取日志截圖，這樣對之后的數(shù)據(jù)分析是有很大的幫助的。
猜你喜歡
評論(0人參與，0條評論)
發(fā)布評論
最新評論