10 人参与回答

Robots文件

禁止抓取就行了

Robots文件禁止即可

思思
思思 · 劳务派遣,劳务外包,人事代理,QQ2448907263

Robots文件,禁止搜索引擎爬取

创建Robots.txt文件,内容写:

Disallow: /

代表不允许收录或爬行网站

葡萄皮皮
葡萄皮皮 · http://www.nedfon.com/

Robots文件可以限制蜘蛛的爬行路径。

Robots文件吧

14
14 · 厂家批发直销树脂瓦,采光瓦,塑料瓦,pvc瓦→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→→

Robots文件,禁止搜索引擎爬取

leeydls
leeyd · 佛系佛系,排名随缘,收录随缘,转化随缘

Robots文件,不想哪个搜索引擎爬取就禁哪个,或者不想被爬取某个目录,就将那个目录禁止爬行

杭州继保
杭州继保 · 微机保护行业

防不胜防吧