搜外网>搜外问答>问答页面

如何屏蔽搜索引擎的无用垃圾蜘蛛抓取,来减轻服务器压力?

追加问题
    3 人参与回答
天行健咨询
天行健咨询 · 精益生产管理与六西格玛管理咨询,培训机构

我们一般都是通过Robots屏蔽这个方法,Robots 协议(也称为爬虫协议、机器人协议等)用来告诉搜索引擎、爬虫哪些页面可以抓取,哪些页面不能抓取。

利美医疗
利美医疗 · 四川利美医疗是一家集一次性口罩、口罩辅料、清洁防护用品的研发、设计、生产、销售为一体的高新技术企业!

直接无用的屏蔽蜘蛛,或设置允许的蜘蛛。

SEO培训招生中
189