蜘蛛爬取页面重复怎么解决?
蜘蛛每天来网站爬取页面,但是每次爬取页面都是重复的页面,为什么网站蜘蛛会多数爬取重复的页面,如何解决蜘蛛的问题不让蜘蛛爬取页面重复了?需要怎么做呢,怎么引导蜘蛛,麻烦各位大神指点感谢!
4 人参与回答
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭