网站蜘蛛抓取页面反复重复太多怎么办?
网站蜘蛛每天来网站爬取,爬取页面也是正常的,问题是蜘蛛每次抓取页面都是重复的,没有一次是不重复的,这样反复的无常,怎么处理蜘蛛的问题?各位有什么建议对于蜘蛛问题?
3 人参与回答
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭