用disallow规则啊
感觉这个没什么用的啊
去看下Robots咋写,你就知道咋屏蔽了
新建一个叫Robots.txt的文件夹,之后写入下面代码
web服务器里直接拒绝
新建一个Robots.txt的文本文件,然后在里面放上:Disallow: /文件名称
新建一个叫Robots.txt的文件夹,之后写入下面代码,要注意文件夹名称的大小写要一致,放到网站根目录,之后到百度搜索资源平台的Robots下更新一下
User-agent: *Disallow: /文件名称/
Robots.TXT disallow /XXXX
有时候写了也不太有用 照常抓 先弄上试试Robots里面
Robots协议就可以啊,具体教程自己百度
在Robots协议里面加入Disallow: /某某文件夹
让更多人参与回答