WordPress搭建的网站百度蜘蛛抓取了很多某明奇妙的文件,该怎么办? 推荐热议
<p>在robots文件中也限制了的,还是来抓取。全部都是404页面,该怎么办啊?</p><p><br></p>
28 人参与回答
管他
这蜘蛛假的,别人伪装的
不用管
假蜘蛛吧
LIVE意荐
0
robots屏蔽下啊,这样可以提升爬虫效率http://www.syedl.com/
这样不好吧
别管他
可以忽略 假蜘蛛可能
都是乱来的
忽略这个
这个应该可以忽略
应该是假蜘蛛
这些是被他人恶意扫描漏斗,正常,不需要处理,每天重点检测下网站是否正常,是否有被他们黑进去就好
屏蔽了还抓取 不应该啊
robots屏蔽下啊,这样可以提升爬虫效率
现在的蜘蛛都不太守规矩