搜外网>搜外问答>问答页面

蜘蛛抓取页面重复率太高怎么解决?

网站蜘蛛是来的次数正常,但是每次爬取页面都是重复的,如何解决蜘蛛的抓取页面重复,不让蜘蛛反复抓取页面重复,我应该怎么处理蜘蛛这块?感谢解答疑问!

追加问题
    3 人参与回答
习惯沉默
习惯沉默 · 浙达精益,专注致力于磁致伸缩位移传感器

百度站长后台有个限制蜘蛛抓取频次

百度站长后台有个限制蜘蛛抓取频次