网站robots怎么写了

QQ截图20190415183205

www.3sjtw.com   www.aiidol.com    www.nanry.com  三个网站的robots.txt都是这个问题,该怎么搞啊

追加问题
    6 人参与回答

  这样写  网上找一个Robots工具 就可以了

一梦红尘
一梦红尘 · 社区网站-香港移民!

随便网上找一个工具都可以啊,或者自己写

  Robots文件写法

  User-agent: * 这里的*代表的所有的搜索引擎种类,*是一个通配符

  Disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录

  Disallow: /require/ 这里定义是禁止爬寻require目录下面的目录

  Disallow: /ABC/ 这里定义是禁止爬寻ABC目录下面的目录

  Disallow: /cgi-bin/*.htm 禁止访问/cgi-bin/目录下的所有以".htm"为后缀的URL。

  Disallow: /*?* 禁止访问网站中所有包含问号 (?) 的网址

  Disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片

  Disallow:/ab/ 禁止爬取ab文件夹下面的文件。

  Allow: /cgi-bin/ 这里定义是允许爬寻cgi-bin目录下面的目录

  Allow: /tmp 这里定义是允许爬寻tmp的整个目录

  Allow: .htm$ 仅允许访问以".htm"为后缀的URL。

  Allow: .gif$ 允许抓取网页和gif格式图片

  Sitemap: 网站地图 告诉爬虫这个页面是网站地图

爱站工具包里可以生成Robots文件

万物皆有灵
万物皆有灵 · 两年seo工作经验,希望与各位多交流学习。

爱站可以生成的