搜外网>搜外问答>问答页面

网站robots.txt一般禁止蜘蛛抓取哪些内容

微信

正常的网站robots.txt你们一般禁止蜘蛛抓取哪些内容，js、css还有补充的吗

追加问题
Robots JS 举报 本帖由用户发布，如有侵权联系删除  2022-05-18 发布433 次浏览
最新问题
 
广告位出租
广告位出租-排名优化
    4 人参与回答
___ Alone丶
___ A · SEO最高境界——佛系SEO!

不要让抓取的都可以封禁

2 年前
IP属地：陕西
赞同 0 评论 0
收藏 举报
评论取消
柠檬树上
柠檬树上 · 重庆不孕不育医院相关的不孕治疗及诊疗服务

基本就封禁JS和css就可以，还有不要被收录的页面文件

2 年前
IP属地：重庆
赞同 0 评论 0
收藏 举报
评论取消
无法显示
无法显示

楼上说的对，没必要

2 年前
IP属地：安徽
赞同 0 评论 0
收藏 举报
评论取消
罗凌峰
罗凌峰

没必要都封禁

2 年前
IP属地：天津
赞同 0 评论 1
收藏 举报
评论取消
搜外微信
提供服务
常用链接
产品实验室
©2008-2024 SEOWHY 深圳市夫唯伙伴信息咨询有限公司