20 人参与回答
最佳回答
延选人才网-重庆市培训考试信息网聚平台
延选人才网 · 诚人延选-延时喷剂哪个牌子好?口碑好的延时喷剂评测=================================
怡合达YHD沈晨晨 等 2 人赞同该回答

书写 Robots 文件时需要注意以下细节:
1、一定不要写绝对路径,就是不要带网站域名,用/代替即可。
2、注意 robots 文件中的所有符号都是在英文状态下写的,比如 Disallow: /admin/ 中的:是英文状态下的。
3、注意空格,例如 Disallow: /admin/ 中:后面紧跟着一个空格。
4、注意大小写,例如 Disallow: /admin/ 中 Disallow 的D是大写的。
5、robots 是有生效时间的,是由百度决定的,几天或者两个月以内,所以一定不要随便屏蔽整站。
6、还有一点要弄清楚,Disallow: /help 的意思是禁止蜘蛛访问/、/、/help/ 等所有带 help 的文件及文件夹;Disallow:/help/ 则是禁止蜘蛛访问 /help/ 这种形式的路径,允许访问 /、/。

怡合达YHD
怡合达YH · 怡合达专业从事自动化零部件研发、生产和销售,提供FA工厂自动化零部件一站式供应

一楼应该解决你的问题了

十六夜
十六夜 · 气象站-气象监测传感器-农业观测站设备-全自动气象站

上面说的已经很多了,参照着些就行了

陈之虎
陈之虎 · 正在输入……

正确,没有问题的

AK
AK · 权4网站锚文本链接找我

没有啥问题

多学习学习才可以

我也学习学习。

祝福语
祝福语 · 一个自学网站优化建站的新手站长。

就把第1行和第4行留着,其它的都删掉就可以了,你可以参考我的网站是怎么写Robots

真节能烘干机
真节能烘干 · 真节能污泥烘干机

有问题 有暴露后台地址的风险 建议敏感目录使用* 通配符 Disallow: /ad*zi/   这个自己改   要自己需要抓取的目录跟这个没有一样的就行  

写的没问题。

嗯 不错 虽然我也看不太懂

HWAPº
HWAPº · 网站权6,友情链接QQ:2544424184

1楼分析得不错,可以借鉴

污水处理设备
污水处理设 · 专业一体化污水处理设备、溶气气浮机源头厂家!

学到了学到了,

聚福
聚福 · 有一个愿望:每个站长都能够原创,不再是相互采集,以前采集修改开始/结尾内容,后来二合一,再后来Ai伪原创...

不想抓取的文件夹或者网页可屏蔽掉。

推推蛙说得对,学到了

加载更多