搜外网>搜外问答>问答页面

网站蜘蛛总是抓取重复页面太多次咋解决?

最近网站的蜘蛛来的频率次数挺多,就是抓取页面都是重复的页面,越来越多的页面都是重复的,怎么引导蜘蛛不要继续抓取重复的页面?我应该怎么解决蜘蛛的问题?谢谢回答的朋友们!

追加问题
    5 人参与回答
用户176585 · 专业做美发、美容、养生、按摩、推拿、美甲行业收银系统
用户204902 等 1 人赞同该回答

不需要抓取的可以用root一下

用户204902 等 1 人赞同该回答

重复抓是好事

用户7639 · 专注企业SEO优化
用户204902 等 1 人赞同该回答

重复抓是好事

用户159126 · 专业的有问必答平台
用户204902 等 1 人赞同该回答

不用管,重复抓是好事

用户185412 · 建站小程序空间域名服务器百度爱采购
用户204902 等 1 人赞同该回答

可以尝试用root文件试试呢