搜外网>搜外问答>问答页面

网站蜘蛛抓取页面反复重复太多怎么办?

网站蜘蛛每天来网站爬取,爬取页面也是正常的,问题是蜘蛛每次抓取页面都是重复的,没有一次是不重复的,这样反复的无常,怎么处理蜘蛛的问题?各位有什么建议对于蜘蛛问题?

追加问题
    3 人参与回答
学习网站
学习网站 · 山东美新玻璃 | www . sdmeixinglass . com|

这个 就是没法办 除非屏蔽

蜘蛛重复抓取,可以去通过外链引蜘蛛去抓取其他页面URL

这个还真没办法,

SEO培训招生中
189