10 人参与回答

Robots文件

禁止抓取就行了

Robots文件禁止即可

用户138312 · 劳务派遣,劳务外包,人事代理,QQ2448907263

Robots文件,禁止搜索引擎爬取

创建Robots.txt文件,内容写:

Disallow: /

代表不允许收录或爬行网站

用户181212 · http://www.nedfon.com/

Robots文件可以限制蜘蛛的爬行路径。

Robots文件吧

用户141712 · 厂家批发直销树脂瓦,采光瓦,塑料瓦,pvc瓦→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→

Robots文件,禁止搜索引擎爬取

用户144201 · 佛系佛系,排名随缘,收录随缘,转化随缘

Robots文件,不想哪个搜索引擎爬取就禁哪个,或者不想被爬取某个目录,就将那个目录禁止爬行

用户166956 · 微机保护行业

防不胜防吧