搜外网>搜外问答>问答页面

如何写一个合理的robots.txt文件

微信

如何写一个合理的robots.txt文件

追加问题
Robots
本帖由用户发布，如有侵权联系删除  2020-12-30 发布950 次浏览
举报
其他问题
 
    4 人参与回答
用户143270 · 瓦轴

网上有很多工具

5 年前
IP属地：江苏
赞同 0 评论 0
收藏 举报
评论取消
用户114639

可以看下百科，也可以搜下同行排在前面的是怎么写的。

5 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
用户183845 · 星雅图顶墙定制，集成墙面，集成吊顶原材料厂家（不含施工）

robots.txt

  吧不需要的给禁止就好了  不让蜘蛛抓取

5 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消

收录宝

oliud njipe njipe njipe nqiko kongz 11316 11368 11282 11436 /1763 /1759 /1767 /1764 /1769 /1765 /1758 11418 11302 11304

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2026 SEOWHY 深圳市夫唯伙伴信息咨询有限公司