5 人参与回答

 这个文章有说明,希望可以帮到您!

家电维修
家电维修 · 一名SEO小白,请各位大神多多指教

Robots可以设定哪个文件不能被抓去,也可以把网站地图放上,前提是前面不要加Disallow:这个命令。因为蜘蛛进入你的网站最先抓取的就是robots,会顺着你的网站地图爬行整个网站,不需要每次都像资源平台更新地图文件,也算是节省一点时间吧。

唯爱シ念流年
唯爱シ念流 · 买网店,上猫元素!买卖网店便捷、安全、交易放心的电商综合性服务平台

Robots是告诉蜘蛛哪个文件可以抓取,哪个文件不能抓取,还可以屏蔽特定的搜索引擎蜘蛛

学习交流
学习交流 · 室内门锁厂家

Robots是告诉蜘蛛哪个文件可以抓取,哪个文件不能抓取,还可以屏蔽特定的搜索引擎蜘蛛