蜘蛛爬取页面多数都是重复的怎么解决?
如何避免蜘蛛重复抓取一个页面,页面多次被抓取了,应该怎么应对解决?就是每次访问日志有记录可以查看到,就是抓取页面重复了,如何解决这个问题,怎么避免重复率太高抓取?
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭
如何避免蜘蛛重复抓取一个页面,页面多次被抓取了,应该怎么应对解决?就是每次访问日志有记录可以查看到,就是抓取页面重复了,如何解决这个问题,怎么避免重复率太高抓取?