Robots

Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
夫唯
话题优秀回答者
1325 问题
1080 浏览

关于百度死链处理机制的一个提问 Robots 404 文章 索引

经过研究发现一个网站死链多少不重要,重要的是当天百度抓取的死链数量,如果当天抓取的死链数量达到一个阈值网站就会受到惩罚,比如降权,收录变慢,收录率变低,甚至停止收录。曾经有一个站也删除了大量文章,也没事,秒收。因为百度抓取频率是变化的,有时……

1077 浏览

蜘蛛抓取 是不是只抓取正文? Robots JS

导航上面那种不会被抓吧?js放导航上面呢?robots做个地图给蜘蛛看可以吧?各位多指导感谢!……

1066 浏览

网站近期索引量爆跌,网站也被降权,谁能帮忙分析一下原因呢? Robots Site 排名 文章

网站之前因为robots文件误操作导致各方数据爆跌,但后面经过每天持续的正常优化维护后,网站恢复如初,权重还由一上升到二,索引量、关键词库也在持续增长,一切似乎都在往好的方面发展。但是在15号网站索引量直接减少514条,当时出现了一定的影响……

1064 浏览

有没有做金融网站SEO的大神,看看我的这个站怎么回事,做了几个月了,网站还没有放出来! 数据库 Robots 代码 文章

<p>说一下这个网站:刚刚上线的时候,代码都没有完整,很多死链接后台数据都是写死的,因此把robots.txt屏蔽了,现在已经把网站数据库调用完了,也把robots.txt文件放开了,而且每天更新伪原创文章(因为金融行业,写原创……

1057 浏览

网站抓起频次突然变为0,已经连续了两天了,是怎么回事呢? Robots 网站日志 抓取频次

<p>网站抓起频次突然变为0,已经连续了两天了,期间内容也是正常上传,没有更改过网站的任何东西,唯独上传了robots文件,但是突然两天抓取频次就将为0了,虽然之前也不高。然后查询了日志文件,发现蜘蛛又有过来爬取。这是怎么回事呀……

1053 浏览

网站的robots文件要怎么写? Robots

<p><font size="4">我想让蜘蛛不爬我网站新闻栏目的其中一项,比如图中“帝唐动态”这一栏的所有新闻都不让蜘蛛爬取收录,网站的robots文件要怎么写呢。我目前自个写的robot文件没……

1046 浏览

对国内SEO现状的一点思考 软文 Robots SEOer Site

我讲一件真实的事情。我在一个群里看见一个很活跃的群友,在宣传自己说接单可以找他,保证见效,无效退款。我私聊他,把BSG的网址给他,我说你简单评估一下这个站。我刚发过去没多久,他消息过来了:首页内容过少,没有什么有价值信息,要充实内容。没有合……

1043 浏览

网站一个栏目一直都没有被收录现在权3? Robots 静态

我是dede搭建的,都是纯静态页面,robots也没有,主要是关键词多,还有就是靠时间养的,我是仿的站,对seo角度不是很友好啊!但是内容不是采集的都是原创的。我想知道怎么提升收录?……

1042 浏览

网站上线2个月不收录,10年老站长第一次遇到,有哪位高手来分析分析? Robots Site Sitemap 代码

网站上线2个多月,目前一个页面都不收录,十年的老站长还是第一次遇到,内容基本是原创的,robots没问题,sitemap什么的都正常提交,代码也检查过几遍,站长平台反馈什么回应都没有,网站名称:必经地旅游网,网址:www.bijingdi.……

1036 浏览

为什么文章还没收录?? Robots Site 文章

文章都是原创(检测都在85~99%的原创度),发了一两个月了,平均每天发50篇左右,但是还没收录(抓取频次有增长,但是不明显),问题出在哪呢?是没放出来还是就没收录?  域名也没什么问题 都是自己申请的   也没什么灰色记录,robots里……