网站改版,蜘蛛为什么还会抓取一些不存在的目录和链接。
网站改版了一个多月,并且换了新的服务器。最近看网站日志,发现百度蜘蛛还会抓取一些之前的目录和链接,像之前的目录在新的服务器上已经完全没了入口,之前的链接基本全部提交了死链,甚至robots也做过一些限制。但是还能看到蜘蛛抓取这些,这种问题来个大神求解。
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭