网站蜘蛛是经常来网站,也爬取的正常,就是每次爬取是重复的页面,别的页面不爬取,我查看日志是正常的,为什么蜘蛛来了不爬取别的页面?挺郁闷的,怎么办我咋搞呢?望各位解答下谢谢。
分析一样为什么这个页面是不是有什么特别之处,为什么蜘蛛一直抓取,其他页面也可以照着这个页面做,或者这个页面里面加一些内链
提交你的地图 做蜘蛛的路径
反馈一下,应该问题不大,把蜘蛛留下来才是硬道理
主动提交URL给百度吧
主动提交URL给百度吧,做一下内链,合理给每个页面安排上其他页面的链接。
网站地图设置好了吗?
让更多人参与回答