301过后蜘蛛不来抓取怎么回事?
网站从设置了301之后,网站就发现蜘蛛不来网站了,时间一天天过去,为什么从设置301后蜘蛛就不来了?怎么吸引蜘蛛来网站抓取页面,提升蜘蛛的抓取次数,各位有什么技巧可以分享?
6 人参与回答
1、Robots.txt封禁
如果你在Robots.txt中屏蔽了百度抓取网站某个目录,当你在该目录下生成内容的时候,百度是很难抓取目录下面的内容,同时抓取诊断也会出现失败的提醒。
2、网站访问速度
很多站长表示,在本地测试,我的网站返回的是HTTP状态码200,但在抓取诊断一直显示抓取中,并没有反馈结果。
由于服务器线路不同,百度蜘蛛抓取的速度可能延时超长,就会产生明明可以访问,却出现抓取诊断失败的问题。
遇到这个问题你需要定期监控服务器各地访问速度,并做网站打开速度优化。
3、CDN缓存更新
我们知道CDN的缓存更新是需要时间的,虽然你在管理平台后台实时了线上及时更新,但由于不同服务商技术的不对称,它往往会产生一定时间的延迟。
这就势必造成网站抓取失效。
4、抓取诊断有跳转
如果你对旧内容进行了更新与网站改版,并且采用了301或302进行跳转,由于错误原因的配置,导致重定向的次数过多,同样会产生百度抓取失败的问题。
5、DNS缓存
由于DNS缓存的存在,当你在本地查询URL可以正常访问,但排除以上总总问题的时候,抓取诊断仍然提示失败,那么你需要更新本地DNS缓存,或者利用代理IP,审查网站十分可以顺利访问。