33 人参与回答
可以的不ks k ks ks
看起来没毛病的
我也想学习一下,感觉每个网站写法都不大一样
你的CSS和JS的禁止方法是错的,.css和.js都只是后缀,disallow后边是完整路径或非空前缀,正确写法是:Disallow: /*.css$,*为通配符,$代表匹配行结束。
可以的
写法是正确的
得加通配符啊,老铁
robot的教程可以参考下百度的。没问题的
加油地
没问题
可以的,txt上传就可以了。
没事的,可以弄的啊
网上的这个教程很多,自己去弄明白了,以后再遇到这个问题就懂了
我都是网上工具弄得
robot的教程比较多了,没问题
没有问题,反正这样写蜘蛛是可以抓取的。你只需要把不想被抓取的内容禁止就可以了。
反正这样写也没事 你直接不让抓取模版文件夹就行了吧
