百度蜘蛛老是抓取网站没有的目录,并返回404是什么原因,关键是特别多,几百条www.hdtdwl.cn
1、真实的蜘蛛只会去抓取网站里面真实存在的页面,而不会去抓取不存在的栏目和页面; 2、抓取返回码是404,这种也不会被搜索引擎收录,如自身并未改版,URL也并未变更,这种抓取不存在页面URL可直接忽略,很多时候是模拟蜘蛛抓取,不是真的蜘蛛。 ps:有死链被搜索引擎放出收录,做好404页面,整理已收录死链做死链提交删除
直接去提交一下死链
https://didi.seowhy.com/ip.html 可以用这个查查是否真实蜘蛛。
提交一下死链就不会再抓取了
扫站的,刷一些泛目录的路径,看看有没有漏洞。说明你的网站被盯上了,做好防护。
不是自己的网站链接,就可以忽略,是自己的及时提交死链
会不会是假蜘蛛啊
把蜘蛛抓取的404链接都提交一下死链
提交一下死链就不会再抓取了@!
是扫站的吧,模拟蜘蛛
来看看的
让更多人参与回答