网站tag目录下死链太多怎么办？能直接禁止抓取吗
网站tag目录下死链太多怎么办？能直接禁止抓取吗
tag插件已经卸载，不打算要tag目录了，可以使用 robots.txt 禁止收录 tag目录吗？
相关问题
- 复制内容如何让搜索引擎快速收录呢？(0 个回答)
- 网站大量IP同时访问导致网站打不开，有好的解决办法吗(2 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(3 个回答)
- 关于网站只收录新闻栏目页问题及robots屏蔽后台问题(7 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(1 个回答)
- url被删除返回404后还用robots屏蔽吗？(2 个回答)
- 404需要在robots文件中屏蔽吗？(1 个回答)
- 网站的robots协议在哪里看？(4 个回答)
