发现死链,然后也提交了,但是看网站日志,蜘蛛还是很喜欢去爬,这种有什么影响?要怎么处理比较好?
蜘蛛去抓取死链
1、蜘蛛去抓取死链,返回码是404,这样的抓取是不会放出收录的,因此影响不大; 2、如果早已删除,蜘蛛还在一直抓取,可观察下,如果是一直爬,多半是虚假蜘蛛,真实蜘蛛只抓取爬行有通道的URL,即使是死链,抓取几次返回404,后期便不会再去抓取,返回码404,也不会轻易放出。
让更多人参与回答