网站改版期间把robots.txt设置为:
User-agent: *
Disallow: /
时间久了,百度会不会产生一种习惯?即使网站复通了,它也不来抓取?
屏蔽不需要抓取的
后期在打开,不懂
网站在整改期间,建议到百度站长后台提交闭站保护
如果关闭Robots.txt, 后期在打开 百度蜘蛛抓取只是时间问题,对站本身没其他影响
不懂,你设置屏蔽整站怎么抓取?
让更多人参与回答