百度蜘蛛一直抓取被删除的链接怎么办 悬赏3元 已结束
一个月之前删掉了一些内容，通过网站日志发现，百度蜘蛛还在抓取这些被删除的链接，都删掉一个月了还能抓取，不知道蜘蛛是怎么发现的，现在有什么好的办法不让蜘蛛抓取这些链接
相关问题
- 百度蜘蛛只抓取网站首页 不抓内页是什么原因？(1 个回答)
- 百度蜘蛛不来网站怎么提高浏览量？(2 个回答)
- 如何利用百度蜘蛛的来路IP来判断网站的权重？(1 个回答)
- 百度蜘蛛抓取量为什么越来越少？(4 个回答)
- 百度蜘蛛一天来你网站多少次才算不错？(8 个回答)
- 百度蜘蛛长时间都没有来网站有哪些引导？(3 个回答)
- 经过一个半月的努力，百度蜘蛛终于每天都过来了，但内页还没有收录不知道为什么(4 个回答)
- 我想问一下百度蜘蛛是怎样的抓取规律？(2 个回答)
