搜外网>搜外问答>问答页面

如何写一个合理的robots.txt文件

微信

如何写一个合理的robots.txt文件

追加问题
Robots
本帖由用户发布，如有侵权联系删除  2020-12-30 发布924 次浏览
举报
其他问题
 
    4 人参与回答
用户143270 · 瓦轴

网上有很多工具

4 年前
IP属地：江苏
赞同 0 评论 0
收藏 举报
评论取消
用户114639

可以看下百科，也可以搜下同行排在前面的是怎么写的。

4 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
用户183845 · 星雅图顶墙定制，集成墙面，集成吊顶原材料厂家（不含施工）

robots.txt

  吧不需要的给禁止就好了  不让蜘蛛抓取

4 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消

收录宝

40603 66563 75706 84852 82143 91326 08715 26247 34885 43945 54388 63406 72130 96594 05779 15010 26921 38663 49151 58169

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2025 SEOWHY 深圳市夫唯伙伴信息咨询有限公司