robots里有必要填写allow吗 悬赏1元 已结束
比方说想专门想让蜘蛛爬取某个链接或者某个目录,有必要在robots里设置allow吗
比如 Allow: http://www.qqqqq1.com/a[?]
另外 在robots里放了 Sitemap:http://www.qqqqq1.com/sitemap.xml[?] 后
还有必要在robots里放
Sitemap:http://www.qqqqq1.com/sitemap.txt[?]
Sitemap:http://www.qqqqq1.com/sitemap.[?]html吗
这样放有作用吗
31 人参与回答
可以但没必要
看自己的需要来调整,
都行!写不写都ok的,看你自己
一般没必要去写
一般没必要写
没有特殊需求一般用不到
应该不用写吧
我一般不放的。。
不用写也起不到你想的作用 Allow是排除掉Disallow的屏蔽区域的差集用的 就是告诉蜘蛛在排除的这些目录里这个目录要去 不是引蜘蛛收录的目的 做好内链 不写的蜘蛛该去的都会去
放进去没坏处
也可以,不过影响不大
想放也可以,一般放一个就行,不用放了txt还要放html,这样放意义不大
你可以放,试一下吧