搜外网>搜外问答>问答页面

网站需要在robot.txt中屏蔽不相关的内容吗？

微信

网站需要在robot.txt中屏蔽不相关的内容吗？

追加问题
本帖由用户发布，如有侵权联系删除  2021-06-01 发布759 次浏览
举报
其他问题
 
    4 人参与回答
用户195244
用户186390 等 1 人赞同该回答

你不想让他爬的 如版本 JS css等

4 年前
IP属地：山东
赞同 1 评论 0
收藏 举报
评论取消
用户194004
用户186390 等 1 人赞同该回答

需要啊！不然要他有什么用

4 年前
IP属地：河北
赞同 1 评论 0
收藏 举报
评论取消
用户148299 · 行星减速机品牌厂家
用户186390 等 1 人赞同该回答

这个还是很有必要的，屏蔽不相关的，剩下的都是相关的，相关性越高，收录及排名越好

4 年前
IP属地：广东
赞同 1 评论 0
收藏 举报
评论取消
用户157263 · 环卫洒水车、垃圾车、压缩式垃圾车、扫路车、清扫车等专用车销售

还是很有必要的

4 年前
IP属地：湖北
赞同 0 评论 0
收藏 举报
评论取消

收录宝

76139 85325 97195 22442 31795 41106 50420 59729 70301 79400 88673 98068 09518 29525 38666 03845 14415 23556 50315 59040

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2025 SEOWHY 深圳市夫唯伙伴信息咨询有限公司