请问大佬们,网站的robots要怎么写对?还有 查看网站的robots文件如何查看?高手指教了。
占位学习
怎么写都行,主要是懂写的每条啥意思,不明白就百度,然后一条条写,具体想屏蔽哪些文件,这个看你自己网站需求,你觉得这个不想被抓取你就写上,每个人的网站都不太一样,这个写的内容肯定也不同,写法和格式都是一样的,百度一下就有很多,照着写就行了
Robots刚开始屏蔽后台文件就行了,后面多分析日志,慢慢加
查看robots 在域名后面加上robots.txt访问就可以看到了
让更多人参与回答