搜外网>搜外问答>问答页面

蜘蛛爬取页面重复太多怎么解决?

每次蜘蛛过来爬取页面,但是爬取页面都是重复的的太多,为什么页面重复的太多,怎么引导蜘蛛让蜘蛛爬取页面正常,每天更新文章就是为了吸引蜘蛛,蜘蛛到底是怎么爬取页面重复的也没有用啊?

追加问题
    4 人参与回答
海阔天空
海阔天空 · 315防伪标签办理中心-全国315产品防伪查询中心

可以发一些外链引导,或交换友情链接引导

泉水溪溪
泉水溪溪 · 鑫盛主营包装机设备,粉剂包装机,颗粒包装机,可用于面粉、粮食、化工、肥料行业

Robots设置一下

Robots设置一下

胡汉三
胡汉三 · 上海沈泉泵阀公司

可以引导去抓其他页面