网站蜘蛛抓取页面都是重复率高怎么解决?
网站最近蜘蛛有来网站,每次来的频率次数挺多,唯一是蜘蛛抓取页面多数是重复的页面,别的页面不怎么抓取,这样收录量也不太好,怎么避免蜘蛛一次次的抓取页面重复?重复的抓取没有什么用,咋处理好?
3 人参与回答
我的微信:sec_vip 等 1 人赞同该回答
做好内链,影响蜘蛛抓取深度;手动提交网址
我的微信:sec_vip 等 1 人赞同该回答
额~这个问题我也想知道~