蜘蛛爬取重复的页面多次怎么处理蜘蛛?
网站日志查询看到蜘蛛很多次爬取,就是爬取内容都是重复的,每次被爬取的都是重复的,怎么合理的爬取页面最好不要重复了,有什么方法可以解决?蜘蛛爬取页面都是重复的,苦恼死了怎么办?
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭
网站日志查询看到蜘蛛很多次爬取,就是爬取内容都是重复的,每次被爬取的都是重复的,怎么合理的爬取页面最好不要重复了,有什么方法可以解决?蜘蛛爬取页面都是重复的,苦恼死了怎么办?