搜外网>搜外问答>问答页面

蜘蛛反复抓取一个页面怎么回事?

蜘蛛抓取相同的页面,多次的抓取页面怎么回事?为什么蜘蛛抓取不正常反复抓取重复页面,这样抓取也没有用,怎么解决这个问题,是哪里原因为什么会这样?谢谢回答问题!

追加问题
    4 人参与回答
天行健咨询
天行健咨询 · 精益生产管理与六西格玛管理咨询,培训机构

蜘蛛重复抓取页面是正常的,蜘蛛抓取页面的依据是看页面内容是否发生了变化,如果每次抓取页面都有变化,那么抓取就会更加频繁。如果多次抓取后发现页面都没有变化,就会减少抓取。所以不要刻意让蜘蛛不重复抓取某个正常的页面。

陈之虎
陈之虎 · 正在输入……

网站内链规划一下

影响不大,不用太在意

多去提交url看看