搜外网>搜外问答>问答页面

网站的接口老是被蜘蛛访问，需不需要写到robots协议里，禁止蜘蛛抓取呢？

微信
追加问题
Robots
本帖由用户发布，如有侵权联系删除  2020-09-25 发布798 次浏览
举报
其他问题
 
    5 人参与回答
用户168760 · 小团队创业型，一直在失败，一直在向前努力

 有的搜索引擎不规矩，禁止了一样爬去，很麻烦

5 年前
IP属地：四川
赞同 0 评论 0
收藏 举报
评论取消
用户181395

嗯，直接禁止就好了

5 年前
IP属地：上海
赞同 0 评论 0
收藏 举报
评论取消
用户159126 · 专业的有问必答平台

无关的目录和文件建议写进去禁止爬

5 年前
IP属地：湖北
赞同 0 评论 0
收藏 举报
评论取消
用户176834

可以禁止的

5 年前
IP属地：湖北
赞同 0 评论 0
收藏 举报
评论取消
用户114639

可以。禁止爬行。

5 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消

收录宝

52871 52641 61449 70257 79443 88544 97562 06747 15385 24447 60088 64153 70906 83447 78417 45679 32789 56458 67112 78101

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2025 SEOWHY 深圳市夫唯伙伴信息咨询有限公司