Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
用户2
话题优秀回答者
1325 问题
1006 浏览

网站改版原来收录的URL怎么办? Robots 404 6系统 索引

网站改版有多种情况,有一种情况是:网站域名不变、网站系统要完全更换,内容继续在新系统使用。如果这个网站已存在一定时间,已有较多收录量,那么原来收录的那些URL该怎么办呢?有两个办法来解决:1、在新系统或新服务器上,增加一项功能,把老的已收录……

986 浏览

关于百度快照的问题 Robots 百度快照

<p>之前提问过这个问题,之所以在问一次,是想让老大哥们看下我这个网站是不是还有不利于百度抓取的东西,robots的限制指令已经修改了一个月了,百度反馈的回复一直是1-2周出结果,这都第二个两周了。很是捉急。</p>……

985 浏览

请问下大神们,百度为什么就爬首页和以前老早删除了的页面? Robots 404页面 PHP 404

<p>请问下大神们,百度为什么就爬首页和以前老早删除了的页面?站点两年了,以前没空弄,中间丢失了很多页面,数据没了,网站一直没关过,只是服务器忘记续费了,几天才发现没备份,全重做了,目录路劲没变,我重新更新一个多月了,谷歌,神马……

979 浏览

pc和手机的url不一致,把手机的url目录robots屏蔽了影响排名吗 Robots 排名

织梦的网站,网站一直以为是自适应的,后面发现收录的好多是手机页面,才一看url是/m的动态地址,但是一种用的一个后台同步更新的,不想被收录/m的动态url,只想收录pc的伪静态url,用robots屏蔽了/m目录可以吗,会不会影响网站pc和……

974 浏览

今天面试了一个5年经验的SEO Robots 聚合 仿站 黑帽

今天面试了一个5年经验的SEO,发现做SEO普遍都是从其他不相关的行业转过来的,他是在某个培训机构培训了4个月出来工作的,在培训的时候做过几个网站,然后就出来工作了,出来后自己就没有单独做过网站了,只是有5年的工作经验。他的工作内容基本上是……

970 浏览

旧链接收录删除不掉,新链接一个月了无收录 数据库 Robots 内容原创 收录删除

一个月前改版了网站,数据、模版可以说都换了...先说说旧链接的事:1.收录的旧链接大部分删除了,有一两条仍然删除不了(提交死链了)2.一直在关注收录,上周收录上涨,结果都是旧链接,已经打不开的...(和数据库有关系吗?)再有就是新内容不收录……