百度蜘蛛重复抓取一个页面怎么解决?
最近一直蜘蛛抓取重复的页面，每次来网站都是重复的多次，日志可以查看到一些数据，怎么引导蜘蛛爬取正确的页面不要重复的多次爬取，各位大佬在优化中有什么经验可以分享一下？谢谢了。
相关问题
- 百度蜘蛛只抓取网站首页 不抓内页是什么原因？(1 个回答)
- 百度蜘蛛不来网站怎么提高浏览量？(2 个回答)
- 如何利用百度蜘蛛的来路IP来判断网站的权重？(1 个回答)
- 百度蜘蛛抓取量为什么越来越少？(4 个回答)
- 百度蜘蛛一天来你网站多少次才算不错？(8 个回答)
- 百度蜘蛛长时间都没有来网站有哪些引导？(3 个回答)
- 经过一个半月的努力，百度蜘蛛终于每天都过来了，但内页还没有收录不知道为什么(4 个回答)
- 我想问一下百度蜘蛛是怎样的抓取规律？(2 个回答)
