搜外网>搜外问答>问答页面

SEO 怎么屏蔽蜘蛛对某个文件夹 或者是某个文件进行爬行 我要代码

微信
追加问题
代码
本帖由用户发布，如有侵权联系删除  2020-08-12 发布1,099 次浏览
举报
其他问题
 
    16 人参与回答
用户176464 · 广西云康健健康管理有限公司

用disallow规则啊

5 年前
IP属地：广西
赞同 0 评论 0
收藏 举报
评论取消
用户157263 · 环卫洒水车、垃圾车、压缩式垃圾车、扫路车、清扫车等专用车销售

感觉这个没什么用的啊

5 年前
IP属地：湖北
赞同 0 评论 0
收藏 举报
评论取消
用户81427 · SEO、剪辑、上架APP、

去看下Robots咋写，你就知道咋屏蔽了

5 年前
IP属地：浙江
赞同 0 评论 0
收藏 举报
评论取消
用户179021 · 免费分享自媒体,抖音带货,闲鱼，seo，短视频,剪切视频等一系列课程

新建一个叫Robots.txt的文件夹，之后写入下面代码

5 年前
IP属地：重庆
赞同 0 评论 0
收藏 举报
评论取消
用户171490

web服务器里直接拒绝

5 年前
IP属地：上海
赞同 0 评论 0
收藏 举报
评论取消
用户175594

新建一个Robots.txt的文本文件，然后在里面放上：Disallow: /文件名称

5 年前
IP属地：陕西
赞同 0 评论 0
收藏 举报
评论取消
用户144201 · 佛系佛系，排名随缘，收录随缘，转化随缘

新建一个叫Robots.txt的文件夹，之后写入下面代码，要注意文件夹名称的大小写要一致，放到网站根目录，之后到百度搜索资源平台的Robots下更新一下

User-agent: *
Disallow: /文件名称/

5 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
用户131490

Robots.TXT disallow /XXXX

5 年前
IP属地：四川
赞同 0 评论 0
收藏 举报
评论取消
用户116205

有时候写了也不太有用 照常抓  先弄上试试Robots里面

5 年前
IP属地：山东
赞同 0 评论 0
收藏 举报
评论取消
用户148299 · 行星减速机品牌厂家

Robots协议就可以啊,具体教程自己百度

5 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
用户177088

Robots协议就可以啊,具体教程自己百度

5 年前
IP属地：河北
赞同 0 评论 0
收藏 举报
评论取消
用户174821

在Robots协议里面加入Disallow: /某某文件夹

5 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消

收录宝

.722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d .722d

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2025 SEOWHY 深圳市夫唯伙伴信息咨询有限公司