Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
用户2
话题优秀回答者
1325 问题
1824 浏览

新站提问:百度蜘蛛疯狂抓取wp-json这个目录,请问对网站有什么影响吗? Robots JS 宝塔

萌新做了个新站,在宝塔后台开通付费统计插件,发现百度蜘蛛疯狂抓取wp-json这个目录,请问这个目录文件有什么作用?百度蜘蛛抓取这个目录对网站有什么影响吗?有没有方法禁止百度蜘蛛抓取?目前我通过添加 移除头部 wp-json 代码,robo……

1822 浏览

现在的seo,其实都是扯淡,百度在百家号没出现以前,排名特别好做… Robots 视频 排名

现在的seo,其实都是扯淡,百度再熊掌号没出现以前,做排名特别好做。只从熊掌号死了之后,百家号起来了,然后百度把所有的流量都分发给了百家号。百度已经开始摒弃千万站长的网站了,你们没发现吗?在百家号没出现以前,百度是十分依赖千万个站长的网站所……

1821 浏览

网站地图不被百度蜘蛛抓取怎么办? Robots 站长平台

<p>这个问题已经出现有一段时间了。现在网站地图蜘蛛都不去爬,该做的都做了就是死活不爬取。网站地图xml格式的一直都有写入robots.txt最底部。每周也会在站长平台更新提交网站地图,但是一直显示等待。希望有知道原因的朋友解释……

1816 浏览

最近索引和排名都在跌,愁死了,求助 Robots 排位 排名

<p>经过我2个月的优化,前100从30多个增加到了90多个,不过不知道为啥,最近一直在掉,索引量也在掉,一天掉了一百多。而且最近收录也不行了,之前都是小时级收录,最快18分钟收录。淦。快排没做过。我个人觉得可能的原因:<……

1802 浏览

问一个robots文件的问题,求大佬解惑。 Robots

是这样的,网站用织梦模板做的,因为模板自动生成的手机端页面都是动态页面,如果我在robots文件加了Dissallow: /*?*屏蔽动态页面的话,那么会影响手机端的收录以及排名吗?robots文件文件在根目录,手机页面在/m/文件夹。……

1801 浏览

买的老域名已收录2W多页面,怎么提交死链? Robots Site 老域名

买的老域名已收录2W多页面,怎么提交死链?收录的都是动态URL,百度站长后台也不提供通配符提交。百度 site:采集也只能采集到700多条链接,后面的就不是展现。robots文件也屏蔽了,百度不管,还是去抓取……

1786 浏览

网站上线几天了,怎么连首页都没被收录 Robots

网站上线几天了,怎么连首页都没被收录。在百度主动提交了链接。结果连一只蜘蛛都没看到。之前做的站,解除robots禁令后,第二天就收录了。难道是百度现在更严了,哪位高手帮看下http://www.zhyt16899.com……

1781 浏览

谷歌蜘蛛能屏蔽吗? Robots

谷歌蜘蛛怎么屏蔽了,在robots加这个User-agent:Googlebot,可以屏蔽谷歌蜘蛛吗?谢谢帮我解答。……

1781 浏览

移动端网站seo优化的小技巧 Robots URL结构 PC网站 文章

  一、域名和robots设置。  1、域名尽可能简短易记,大部分手机端网站的域名是PC端网站的二级域名,当然这个也很好,与传统网站保持一致,更让重视用户信赖。但是如果是专门的手机网站,最好起一个简短而且易记的域名。比如百度推荐使用以m开头……

1776 浏览

为什么我的网站在百度上之前还能搜索到,现在却搜索不到了? Robots 老域名 阿里云

请大神帮我看看:我的网站一直更新内容、做维护,前几天还能在百度搜索到,最近百度搜索不到了。我自己在百度上也查找了一下可能的原因,排除了一些因素:比如使用的域名是被百度惩罚过的老域名,我的域名yanxuan123。Com没有这种情况;服务器不……

1773 浏览

首页被收录后,内页没有收录 Robots 同IP JS 404

机呼科技:http://www.yqbing.com/网站首页收录了。但是内页不收录原因:  1、主页因为权重高所以收录快,内页已经索引只是没有放出来,属于与百度建立信任期。  2、网站结构不友好,过多的js代码和flash以及iframe……

1768 浏览

一个网站可以SEO和SEM同时做吗?还是要分开做? 数据分析 Robots SEM

如题,我想问下,我们公司只有一个网站,可以同时做SEO和SEM吗,这样对数据分析是不是不太好,比如转化来源、成本等。还是说需要再做一个镜像站,一个做SEO,一个做SEM,还有SEM的镜像站需要在robots里屏蔽爬虫访问吗?希望大神解答下,……

1763 浏览

网站不写robots文件到底有影响没? Robots

之前接触的站点都有写robots文件,发现了有些大站点也没有写robots文件,查找了一些资料但是分歧比较严重,有说要写的,又说不用写的。小弟目前都被弄混了,请问大家的网站有没有写?……

1762 浏览

加急探讨!网站拔毛了,被降权被k,site快照全无 Robots Site

各位seo的专业人士,一起探讨分析一下这个网站吧:https://www.vcg.com   网站被拔毛,快照只留主域,其他都被删除,不予检索展现,被降权的现象,看robots.txt和服务器稳定性,没有啥问题,看到搜索页面存在大量30……

1755 浏览

如何快速度过新站沙河期 外链建设 Robots 引蜘蛛 排名

第一、蜘蛛未访之前,定要先铺满内容当一个网站上架后,首先要把网站内部该铺满的地方先铺满,不要有落空的地方。简单的说若是博客的话,那么你每个栏目里面都至少要有1~2篇的文章,这样的话当你去引蜘蛛过来爬行的话,至少可以保证蜘蛛所到之处都有东西爬……

1735 浏览

sitemap.xml与sitemap.html这两个哪个更顶用? Robots Site Sitemap

如题我做SEO这么久了有个同事也是这样问我现在许多做SEO的都会搞个网站地图一般我会直接做个xml的就算搞定了毕竟 搜索引擎对 xml 网站地图还是非常 适用的但是我也有看到 适用html的请问这两个哪个更顶用些?目前搞的我做了两个版本的s……

1732 浏览

网站之前设置了robots禁止蜘蛛抓取所有页面,修改后一个星期了,还是显示限制搜索引擎抓取? 推荐热议 Robots 搜索结果 文章

之前有几个月没打理网站就一直禁止蜘蛛抓取所有页面,最近更新了一些文章,title也修改了,但是搜索结果还是以前的。提交了链接给百度,但一个星期了,百度搜索资源平台后台显示网站没有任何抓取和索引。感谢大神们指点:www.chuangyeok.……