robots里有必要填写allow吗 悬赏1元 已结束
比方说想专门想让蜘蛛爬取某个链接或者某个目录,有必要在robots里设置allow吗
比如 Allow: http://www.qqqqq1.com/a[?]
另外 在robots里放了 Sitemap:http://www.qqqqq1.com/sitemap.xml[?] 后
还有必要在robots里放
Sitemap:http://www.qqqqq1.com/sitemap.txt[?]
Sitemap:http://www.qqqqq1.com/sitemap.[?]html吗
这样放有作用吗
31 人参与回答
可以但没必要
看自己的需要来调整,
我一般不放的。。
都行!写不写都ok的,看你自己
一般没必要去写
只说一次,有必要
一般没必要写
没有特殊需求一般用不到
没有特殊需求一般用不到
填不填都行。
没必要,默认allow,不给收录加disallow就好了
放不放忙都影响不大
应该不用写吧
我一般不放的。。
不用写也起不到你想的作用 Allow是排除掉Disallow的屏蔽区域的差集用的 就是告诉蜘蛛在排除的这些目录里这个目录要去 不是引蜘蛛收录的目的 做好内链 不写的蜘蛛该去的都会去
放进去没坏处
不用写的,,
影响不是很大
想放也可以,一般放一个就行
没有这个必要
也可以,不过影响不大
可以写一下,,
也可以,不过影响不大
也可以,不过影响不大
没啥必要 放个地图就可以了
想放也可以,一般放一个就行,不用放了txt还要放html,这样放意义不大
其实这种效果甚微,地图文件你只放一个就行
你可以放,试一下吧