搜外网>搜外问答>问答页面

网站改版,蜘蛛为什么还会抓取一些不存在的目录和链接。

网站改版了一个多月,并且换了新的服务器。最近看网站日志,发现百度蜘蛛还会抓取一些之前的目录和链接,像之前的目录在新的服务器上已经完全没了入口,之前的链接基本全部提交了死链,甚至robots也做过一些限制。但是还能看到蜘蛛抓取这些,这种问题来个大神求解。

追加问题
    4 人参与回答

我现在也是这个情况,你可以提交死链或者是Robots

Robots可以禁止

Robots可以禁止一些目录抓取

做301或是提交死链