网站改版了一个多月,并且换了新的服务器。最近看网站日志,发现百度蜘蛛还会抓取一些之前的目录和链接,像之前的目录在新的服务器上已经完全没了入口,之前的链接基本全部提交了死链,甚至robots也做过一些限制。但是还能看到蜘蛛抓取这些,这种问题来个大神求解。
我现在也是这个情况,你可以提交死链或者是Robots
Robots可以禁止
Robots可以禁止一些目录抓取
做301或是提交死链
让更多人参与回答