WordPress搭建的网站百度蜘蛛抓取了很多某明奇妙的文件,该怎么办? 推荐热议
<p>在robots文件中也限制了的,还是来抓取。全部都是404页面,该怎么办啊?</p><p><br></p>
28 人参与回答
管他
LIVE意荐
0
robots屏蔽下啊,这样可以提升爬虫效率http://www.syedl.com/
可以忽略 假蜘蛛可能
<p>在robots文件中也限制了的,还是来抓取。全部都是404页面,该怎么办啊?</p><p><br></p>
管他
LIVE意荐
0
robots屏蔽下啊,这样可以提升爬虫效率http://www.syedl.com/
可以忽略 假蜘蛛可能