搜外网>搜外问答>问答页面

如何解决蜘蛛爬取重复页面?

网站蜘蛛是经常来网站,也爬取的正常,就是每次爬取是重复的页面,别的页面不爬取,我查看日志是正常的,为什么蜘蛛来了不爬取别的页面?挺郁闷的,怎么办我咋搞呢?望各位解答下谢谢。

追加问题
    7 人参与回答

分析一样为什么这个页面是不是有什么特别之处,为什么蜘蛛一直抓取,其他页面也可以照着这个页面做,或者这个页面里面加一些内链

小程序源码
小程序源码 · 开发源码制作,建站常识

提交你的地图 做蜘蛛的路径

三九问答
三九问答 · 专业的有问必答平台

反馈一下,应该问题不大,把蜘蛛留下来才是硬道理

主动提交URL给百度吧

主动提交URL给百度吧,做一下内链,合理给每个页面安排上其他页面的链接。

枫子
枫子 · 网站建设,环境配置,css

网站地图设置好了吗?