如题,总感觉网站robots文件抒写不对
www.lanjingcs.com
会不会出问题了?还是刚好是热点或者写的这部分内容刚好缺失???还是被攻击了?
没啥问题,放心
1、Robots文件有无,对优化无太大影响;
2、robots文件,主要是为了告知蜘蛛不去抓取哪些栏目、文件,disallow禁止蜘蛛抓取爬行;
3、你的文件都是允许,无问题,后期有需要disallow哪些页面不被蜘蛛抓取可添加。
ps:有在线robots生成工具,站长工具哪里就有可以看看,如果没有要刻意去封禁的栏目可不封禁
让更多人参与回答