robots.txt做好放在域名根目录，但提交3天了，蜘蛛还没发现
robots.txt内容为禁止蜘蛛抓取所有网页，但事实上，robots.txt提交之后，蜘蛛依然在抓取
相关问题
- 复制内容如何让搜索引擎快速收录呢？(0 个回答)
- 网站大量IP同时访问导致网站打不开，有好的解决办法吗(2 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(3 个回答)
- 关于网站只收录新闻栏目页问题及robots屏蔽后台问题(7 个回答)
- 多个子域名解析到同一个站点根目录，如何屏蔽蜘蛛对某些站点的抓取？(1 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(1 个回答)
- url被删除返回404后还用robots屏蔽吗？(2 个回答)
- 404需要在robots文件中屏蔽吗？(1 个回答)
