写Robots文件
禁止抓取就行了
Robots文件禁止即可
写Robots文件,禁止搜索引擎爬取
代表不允许收录或爬行网站
Robots文件可以限制蜘蛛的爬行路径。
Robots文件吧
写Robots文件,不想哪个搜索引擎爬取就禁哪个,或者不想被爬取某个目录,就将那个目录禁止爬行
防不胜防吧
让更多人参与回答