Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
用户2
话题优秀回答者
1325 问题
1688 浏览

关于手机移动端的问题 Robots 二级域名 移动端

网站之前是把手机端放在域名二级目录下,现在手机端已经有几百个收录了,现在还是想单独用二级域名来挂手机端,需要怎么做才能保持尽量平稳过度,不掉收录?手机端二级域名出来后,原来的二级目录下的网站是需要马上关闭还是用robots限制抓取?……

1672 浏览

如何写robots文件? Robots JS 404

由于模板自带想改,看了日志很多404 都是JS ,CSS的还有就是skin这个文件夹能屏蔽吗?求神看下写法有没错?还需要屏蔽上面?JS和CSS能屏蔽吗 / www.tljbxz.comUser-agent: *  Disallow: /pl……

1644 浏览

robots只抓取html行不行? Robots 网站优化 JS

只抓取网站html行不行?          将含?的页面,模板、图片、css、js目录这些都不抓取行不行?  会不会影响网站优化的呢 有没有副作用??Allow:*.htmlDisallow: /某个目录/Disallow: /*?*Di……

1638 浏览

大家帮忙解决我站爱跨境论坛robots.txt的问题 Robots

我的网站robots.txt www.ikuajing.com/robots.txt  里面禁止了/data/但是我想让搜索引擎允许收录这个图片,又要禁止搜索引擎抓取DATA其他的文件的内容,该怎么写 我的图片地址是:www.ikuajin……

1623 浏览

没法被收录的网页怎么处理比较合适呢? Robots 内容收录 收录率

如果网站当中很多网页是很难收录的(比方说就是采集的内容,不要求引流,只是要求能让网站有让客户看的内容,不然网站内容太少,没什么好看的话,流失率会非常高),那这种网页要不要在Robots禁止抓取呢? 还是就让他这样存在? 如果不禁止抓取的话,……

1617 浏览

新站,如何让网站内页,收录加快 Robots CDN 黑客 JS

1、内页诊断  当我们遇到网站内页不收录,而只收录首页的时候,我们一定要审查网站,通过有效的诊断发现问题,具体我们通常会参考如下两种情况:  (1)首页收录,且有排名  如果你的网站只收录一个首页,并且首页具有一定的关键词排名,实际上,这种……

1615 浏览

2个域名同时绑定到一个网站,请问如何屏蔽搜索引擎 Robots

2个域名同时绑定到一个网站,我想让搜索引擎只收录其中一个,请问怎么写robots实际情况是:A域名被微信屏蔽了,所以重新加了一个B名,但是我在外宣传都是A域名,seo也做的A域名,A域名在微信暂时还没申诉成功。所以我2个域名都能单独访问,但……