7 人参与回答

屏蔽不需要抓取的

用户133351 · 来搜外学习的一名普通用户

后期在打开,不懂

用户184196 · 十安知识网

网站在整改期间,建议到百度站长后台提交闭站保护

如果关闭Robots.txt, 后期在打开 百度蜘蛛抓取只是时间问题,对站本身没其他影响

用户154154 · 长期高价收购古董古玩古钱币 →→→→→→→→→→→→→→→→→→→→→→→点→→→→→→→这→→→→→→→里→→→→

不懂,你设置屏蔽整站怎么抓取?