真假蜘蛛怎么分辨，查询到百度老抓取一些不存在的文本路径怎么处理？
<p>robots文本都已经屏蔽掉这些路径了，为什么还是不断的有在爬，主要还是有478条数据！</p><p><br></p><p><br></p>
相关问题
- 复制内容如何让搜索引擎快速收录呢？(0 个回答)
- 网站大量IP同时访问导致网站打不开，有好的解决办法吗(2 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(3 个回答)
- 关于网站只收录新闻栏目页问题及robots屏蔽后台问题(7 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(1 个回答)
- url被删除返回404后还用robots屏蔽吗？(2 个回答)
- 404需要在robots文件中屏蔽吗？(1 个回答)
- 网站的robots协议在哪里看？(4 个回答)
