蜘蛛抓取相同的页面,多次的抓取页面怎么回事?为什么蜘蛛抓取不正常反复抓取重复页面,这样抓取也没有用,怎么解决这个问题,是哪里原因为什么会这样?谢谢回答问题!
蜘蛛重复抓取页面是正常的,蜘蛛抓取页面的依据是看页面内容是否发生了变化,如果每次抓取页面都有变化,那么抓取就会更加频繁。如果多次抓取后发现页面都没有变化,就会减少抓取。所以不要刻意让蜘蛛不重复抓取某个正常的页面。
网站内链规划一下
影响不大,不用太在意
多去提交url看看
让更多人参与回答