Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
用户2
话题优秀回答者
1325 问题
1227 浏览

如何只让PC端排名,不让移动端抢权重? 数据库 Robots 排名

最近网站遇到了pc和移动端都收录的问题,虽然模板不同,但是百度好像判断不了哪个是pc页面,导致两个页面都没有排名。网站因为是pc移动共用一个数据库的原因,不能在移动端下面写robots文件,所以使用了网页头部写mate robots,效果还……

1219 浏览

首页被大量重复收录怎么办 Robots 404 代码

<p><br></p><p><br></p><p>首页被大量重复收录,就是因为防火墙还是什么原因导致首页网址后面出现大量随机代码的后缀,但都是首页,目前查询……

1215 浏览

robots到底怎么写? Robots

网上各种写法教程五花八门,眼睛都看花了,需要禁止一部分吗?大家是怎么写的。www.maomibo.com……

1215 浏览

Baiduspider抓取网站临时域名,SEO优化规范该如何做? Robots 网站日志 网站运营 SEO优化

在日常网站运营中,观察网站日志经常看见百度蜘蛛抓取网站主机地址为“默认绑定网站主机的临时域名”,在状态301或200下返回正常解析URL链接!问题:多数状态301的抓取下,是否引起搜索引擎蜘蛛的信赖感;应该用什么样的方式避免这种问题,rob……

1211 浏览

新做一个网站,跟旧网站内容一样,只有域名不同,怎么保证新网站的效果? Robots

新做一个网站,跟旧网站内容一样,只有域名不同,类似镜像,不能301,不能提交改版规则,怎么保证新网站的效果?旧网站已经权重1,有上千收录,但是因为公司原因必须优化新做的网站,有什么办法能把新网站做起来而不被百度当成镜像网站吗,robots屏……

1208 浏览

抵制百度搜索引擎蜘蛛! Robots 淘宝 百度蜘蛛

我已经把百度蜘蛛屏蔽了。 禁止访问网站所有页面,希望大家都能行动起来! 抵制百度搜索引擎,看它还叼不叼! 学淘宝把百度蜘蛛写入robots.txt 里面! 现在神马流量也很高,至少质量转换把百度垃圾流量高多了!……

1208 浏览

请问蜘蛛大量抓取js和css文件,用robots屏蔽会不会对网站造成影响 Robots JS

rt,最近检查蜘蛛日志,发现js和css文件的抓取词数已经是主力目录的接近五倍了,请问我这里如果屏蔽掉这些文件抓取的话,会不会影响到蜘蛛对页面样式的读取,如果不屏蔽的话,后续会不会影响收录,多谢各位大神。……

1205 浏览

小白自学我自己每天做的事情 Robots Site 404 排名

接触SEO时间不长 现在负责管理一家企业网站之前刚开始做的时候很无奈什么都不懂什么也不会做就是睁眼瞎。根据一些了解自己现在目前掌握技术有限写一下我的一天的级别的流程(希望高手大师知道留言如图去操作)1每天早上一上班就打开电脑查询网站首页的排……

1199 浏览

网站这样设置robots对吗 Robots 二级域名 CDN

<p><br>最近发现网站有一个二级域名跟www.这个二级域名内容一样,技术那边说是为了网站访问更快,然后把图片什么的都同步到cdn这个域名,这样写是不是可以禁止蜘蛛抓取cdn.这个域名。</p>……