为什么robots文件禁止抓取，日志中还是显示抓取？
为什么robots文件禁止抓取，日志中还是显示抓取？
禁止一个目录 比如Disallow： /aa/
日志中还是能看到抓取aa目录的记录
（设置好robots后很久查才发现的）
相关问题
- 复制内容如何让搜索引擎快速收录呢？(0 个回答)
- 网站大量IP同时访问导致网站打不开，有好的解决办法吗(2 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(3 个回答)
- 关于网站只收录新闻栏目页问题及robots屏蔽后台问题(7 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(1 个回答)
- url被删除返回404后还用robots屏蔽吗？(2 个回答)
- 404需要在robots文件中屏蔽吗？(1 个回答)
- 网站的robots协议在哪里看？(4 个回答)
