<p><br></p><p>网站:www.gdjinglan.com,这个奇怪的、从来不存在的页面,一直被404抓取,</p><p>这个影响严重吗?该怎么办啊?我已经设置了死亡链接,并且生效了,为啥还在抓取这个页面,而且频率十分的高,会不会对网站造成不利?</p>
1、蜘蛛为何会执着于一个死链接这点我也很好奇;
2、页面已404了,这种页面一般不会被抓取和收录,这种也不会影响你的网站;
3、死链接被收录才会影响网站排名和质量,这种不会收录的不会影响,如果是真的蜘蛛在爬,最多是影响网站的抓取;
4、如果是真的蜘蛛一直在抓无效链接,你可以选择Robots屏蔽,屏蔽后用百度站长后台的抓取诊断看看是否生效,生效即可,如果操作了还抓取,这种不是真实的蜘蛛。
我的也一样,Robots里写上禁止抓去那个目录下的所有文件就好了。
同样几十万条链接,蜘蛛老喜欢抓那几条404的
弄清楚具体是哪个ip抓的吧
把这几个给提交死链
让更多人参与回答