最近网站的蜘蛛来的频率次数挺多,就是抓取页面都是重复的页面,越来越多的页面都是重复的,怎么引导蜘蛛不要继续抓取重复的页面?我应该怎么解决蜘蛛的问题?谢谢回答的朋友们!
不需要抓取的可以用root一下
重复抓是好事
不用管,重复抓是好事
可以尝试用root文件试试呢
让更多人参与回答