搜外网>搜外问答>问答页面

robots文件是做什么用的?

微信
追加问题
Robots 举报 本帖由用户发布，如有侵权联系删除  2022-12-08 发布480 次浏览
最新问题
 
广告位出租
广告位出租-排名优化
    5 人参与回答
做我的猫Ï
做我的猫Ï

蜘蛛爬取你的网站首先爬取你的Robots文件 里面可以写限制蜘蛛抓取！

1 年前
IP属地：山东
赞同 0 评论 0
收藏 举报
评论取消
淡若清风
淡若清风

啥也不写 爱抓不抓，躺平即可

1 年前
IP属地：江苏
赞同 0 评论 0
收藏 举报
评论取消
16757分类目录
16757

告诉搜索引擎可以抓取与不可以抓取

1 年前
IP属地：贵州
赞同 0 评论 0
收藏 举报
评论取消
免费在线备课命题组卷出卷
免费在线备 · 免费在线出卷组卷，千万资源免费在线浏览~

告诉搜索引擎可以抓取与不可以抓取。是一种协议。搜索引擎都遵守协议

1 年前
IP属地：黑龙江
赞同 0 评论 0
收藏 举报
评论取消
听风就是雨
听风就是雨

就是txt文档，把规则写好就行

1 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
搜外微信
提供服务
常用链接
产品实验室
©2008-2024 SEOWHY 深圳市夫唯伙伴信息咨询有限公司