Robots:可以告诉百度您网站的哪些页面可以被抓取,哪些页面不可以被抓取。我好想都没特意去搞过这东西。
可以设置下
目前是不搞了
可以禁止爬取目录
织梦自带的就行
建站时设置一下就行,后面基本不用。
一直在用啊,新站建好设置下就行了,后期基本不会再管
小站可以不用管。
有用呀 我栏目页有两个页面都设置Robots 禁止抓取 而且html里面也设置Nofollow 现在这两个栏目页一直没给抓取过 还是有用的
有用啊
裸奔也可以,反正百度不管了!
没有不想被抓取的页面,就不用屏蔽
感觉没啥用啊,你优化没用到这个被
我之前在老网站上用过一次,我也不知道有没有效果啊
感觉没啥用啊
没注意过
让更多人参与回答