4 人参与回答
用户153190 · 精益生产管理与六西格玛管理咨询,培训机构

蜘蛛重复抓取页面是正常的,蜘蛛抓取页面的依据是看页面内容是否发生了变化,如果每次抓取页面都有变化,那么抓取就会更加频繁。如果多次抓取后发现页面都没有变化,就会减少抓取。所以不要刻意让蜘蛛不重复抓取某个正常的页面。

用户173017 · 正在输入……

网站内链规划一下

影响不大,不用太在意

多去提交url看看