搜外网>搜外问答>问答页面

蜘蛛爬取页面重复率太高怎么解决?

蜘蛛每天来网站爬取,爬取页面也是正常的,为什么爬取页面都是重复的,多数都是重复的页面,怎么更好的吸引蜘蛛,不让蜘蛛爬取页面重复?蜘蛛爬取重复的太多是什么情况?

追加问题
    7 人参与回答
利美医疗
利美医疗 · 四川利美医疗是一家集一次性口罩、口罩辅料、清洁防护用品的研发、设计、生产、销售为一体的高新技术企业!

重复没问题,多整点内链

泉水溪溪
泉水溪溪 · 鑫盛主营包装机设备,粉剂包装机,颗粒包装机,可用于面粉、粮食、化工、肥料行业

爬取重复是正常现象

重复度高,说明该页面内链做的多。
想要分散开,把内链指向不同页面即可。

页面多搞点入口,引导蜘蛛去别的页面

智慧生活
智慧生活 · 知晓生活大小事!

反正是抓了吐,吐了再抓

半岛铁盒
半岛铁盒 · 国际学校丨出国留学丨雅思托福丨小语种辅导

不奇怪吧,每个页面都会抓取的

Plum
Plum · 聚乙烯醇缩丁醛-天元化工网-小小站长,兢兢业业!

爬取重复是正常现象吧