5 人参与回答
Robots可以设定哪个文件不能被抓去,也可以把网站地图放上,前提是前面不要加Disallow:这个命令。因为蜘蛛进入你的网站最先抓取的就是robots,会顺着你的网站地图爬行整个网站,不需要每次都像资源平台更新地图文件,也算是节省一点时间吧。
Robots可以设定哪个文件不能被抓去,也可以把网站地图放上,前提是前面不要加Disallow:这个命令。因为蜘蛛进入你的网站最先抓取的就是robots,会顺着你的网站地图爬行整个网站,不需要每次都像资源平台更新地图文件,也算是节省一点时间吧。