搜外网>搜外问答>问答页面

网站蜘蛛总是抓取重复页面太多次咋解决？

微信

最近网站的蜘蛛来的频率次数挺多，就是抓取页面都是重复的页面，越来越多的页面都是重复的，怎么引导蜘蛛不要继续抓取重复的页面？我应该怎么解决蜘蛛的问题？谢谢回答的朋友们！

追加问题
举报 本帖由用户发布，如有侵权联系删除  2021-08-30 发布596 次浏览
最新问题
 
广告位出租
广告位出租-排名优化
    5 人参与回答
尚博思连锁管理系统
尚博思连锁 · 专业做美发、美容、养生、按摩、推拿、美甲行业收银系统
我的微信：sec_vip 等 1 人赞同该回答

不需要抓取的可以用root一下

3 年前
IP属地：山东
赞同 1 评论 0
收藏 举报
评论取消
橙志甜
橙志甜
我的微信：sec_vip 等 1 人赞同该回答

重复抓是好事

3 年前
IP属地：广东
赞同 1 评论 0
收藏 举报
评论取消
螺旋钢管
螺旋钢管 · 专注企业SEO优化
我的微信：sec_vip 等 1 人赞同该回答

重复抓是好事

3 年前
IP属地：河北
赞同 1 评论 0
收藏 举报
评论取消
三九问答
三九问答 · 专业的有问必答平台
我的微信：sec_vip 等 1 人赞同该回答

不用管，重复抓是好事

3 年前
IP属地：湖北
赞同 1 评论 0
收藏 举报
评论取消
人生＝π
人生＝π · 建站小程序空间域名服务器百度爱采购
我的微信：sec_vip 等 1 人赞同该回答

可以尝试用root文件试试呢

3 年前
IP属地：河北
赞同 1 评论 0
收藏 举报
评论取消
搜外微信
提供服务
常用链接
产品实验室
©2008-2024 SEOWHY 深圳市夫唯伙伴信息咨询有限公司