Robots

Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
夫唯
话题优秀回答者
1325 问题
1662 浏览

谷歌蜘蛛能屏蔽吗? Robots

谷歌蜘蛛怎么屏蔽了,在robots加这个User-agent:Googlebot,可以屏蔽谷歌蜘蛛吗?谢谢帮我解答。……

1658 浏览

网站上线几天了,怎么连首页都没被收录 Robots

网站上线几天了,怎么连首页都没被收录。在百度主动提交了链接。结果连一只蜘蛛都没看到。之前做的站,解除robots禁令后,第二天就收录了。难道是百度现在更严了,哪位高手帮看下http://www.zhyt16899.com……

1651 浏览

如何快速度过新站沙河期 外链建设 Robots 引蜘蛛 排名

第一、蜘蛛未访之前,定要先铺满内容当一个网站上架后,首先要把网站内部该铺满的地方先铺满,不要有落空的地方。简单的说若是博客的话,那么你每个栏目里面都至少要有1~2篇的文章,这样的话当你去引蜘蛛过来爬行的话,至少可以保证蜘蛛所到之处都有东西爬……

1643 浏览

sitemap.xml与sitemap.html这两个哪个更顶用? Robots Site Sitemap

如题我做SEO这么久了有个同事也是这样问我现在许多做SEO的都会搞个网站地图一般我会直接做个xml的就算搞定了毕竟 搜索引擎对 xml 网站地图还是非常 适用的但是我也有看到 适用html的请问这两个哪个更顶用些?目前搞的我做了两个版本的s……

1638 浏览

seo框架 Robots Site cookie 404

机呼科技1、SEO基础知识  本节主要是让大家知道SEO是什么意思,对SEO有一个基础性的了解,化繁从简,快速入门的SEO基础知识,它包括:  ① 搜索引擎的工作原理、网站权重、百度快照、百度指数  ② Robots.txt、sitemap……

1635 浏览

问一个robots文件的问题,求大佬解惑。 Robots

是这样的,网站用织梦模板做的,因为模板自动生成的手机端页面都是动态页面,如果我在robots文件加了Dissallow: /*?*屏蔽动态页面的话,那么会影响手机端的收录以及排名吗?robots文件文件在根目录,手机页面在/m/文件夹。……

1626 浏览

买的老域名已收录2W多页面,怎么提交死链? Robots Site 老域名

买的老域名已收录2W多页面,怎么提交死链?收录的都是动态URL,百度站长后台也不提供通配符提交。百度 site:采集也只能采集到700多条链接,后面的就不是展现。robots文件也屏蔽了,百度不管,还是去抓取……

1623 浏览

网站不写robots文件到底有影响没? Robots

之前接触的站点都有写robots文件,发现了有些大站点也没有写robots文件,查找了一些资料但是分歧比较严重,有说要写的,又说不用写的。小弟目前都被弄混了,请问大家的网站有没有写?……

1614 浏览

最近索引和排名都在跌,愁死了,求助 Robots 排位 排名

<p>经过我2个月的优化,前100从30多个增加到了90多个,不过不知道为啥,最近一直在掉,索引量也在掉,一天掉了一百多。而且最近收录也不行了,之前都是小时级收录,最快18分钟收录。淦。快排没做过。我个人觉得可能的原因:<……

1613 浏览

网站原来是动态的URL,2个月前做了伪静态,网站落地页也改版了。但是只收录了首页,site出来的,还有原来的动态页面收录,就是没有改版的伪静态内页收录。 Robots 伪静态 Site

网站原来是动态的URL,2个月前做了伪静态,网站落地页也改版了。但是只收录了首页,site出来的,还有原来的动态页面收录,就是没有改版的伪静态内页收录。写了robots屏蔽动态URL,还是没有用。没有做301,前一段时间日志分析,伪静态的U……

1612 浏览

查看robots.txt Robots

User-agent: *Crawl-delay: 10 无论使用哪种用户代理, 都应该在两次下载请求之间给出10秒的抓取延User-agent: GooglebotDisallow: /loginDisallow: /logoutDisa……

1608 浏览

网站没有robots,没有sitemap,排名很好? Robots Site

一个网站没有robots,没有sitemap,排名倒是挺好,pc权1,移动权2,不外链,不内容,不友链,没有任何优化操作,排名杠杠的。怎么做到的?我想不明白,我的网站不停更新,就是没有排名。……

1601 浏览

首页被收录后,内页没有收录 Robots 同IP JS 404

机呼科技:http://www.yqbing.com/网站首页收录了。但是内页不收录原因:  1、主页因为权重高所以收录快,内页已经索引只是没有放出来,属于与百度建立信任期。  2、网站结构不友好,过多的js代码和flash以及iframe……

1597 浏览

加急探讨!网站拔毛了,被降权被k,site快照全无 Robots Site

各位seo的专业人士,一起探讨分析一下这个网站吧:https://www.vcg.com   网站被拔毛,快照只留主域,其他都被删除,不予检索展现,被降权的现象,看robots.txt和服务器稳定性,没有啥问题,看到搜索页面存在大量30……