Robots

Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
夫唯
话题优秀回答者
1325 问题
822 浏览

网站建二级域名与主域名指向同一个程序,主域名会被分掉权重吗 Robots 二级域名 竞价

如题,为了区分竞价来的线索和自然流量线索,我想将网站建一个二级域名,新建的二级域名与主域名都指向同一个网站,然后在robots中设置disallow禁止蜘蛛抓取这个二级域名,这个新建出来的二级域名会影响主域名的权重吗?……

819 浏览

robots屏蔽问题 Robots

问下兄弟们像下面的链接 有没有比后面这个更简单点的写法  Disallow: /author-1.html xxxxx/author-1.htmlxxxxx/author-1_1.htmlxxxxx/author-1_2.htmlxxxxx……

814 浏览

我的站到底怎么啦? Robots

<a href="http://www.xzqzm.com/" target="_self" data-url="www.xzqzm.com" class="sho……

812 浏览

如何只让PC端排名,不让移动端抢权重? 数据库 Robots 排名

最近网站遇到了pc和移动端都收录的问题,虽然模板不同,但是百度好像判断不了哪个是pc页面,导致两个页面都没有排名。网站因为是pc移动共用一个数据库的原因,不能在移动端下面写robots文件,所以使用了网页头部写mate robots,效果还……

810 浏览

DZ论坛屏蔽动态链接可以吗? Robots PHP 文章 静态

我的网站一个文章收录了俩。。一个是动态的,一个是伪静态。可以把动态链接用robots屏蔽吗?具体应该是 Disallow: /   /forum.php?mod=viewthread&tid=*  这样可以把?这是动态的,我设置伪静……

808 浏览

网站被黑后百度收录的几万个索引怎么处理? Robots 网站安全 404 索引

单纯的靠手工提交死链得到什么时候?网站被黑1年了,现在点开所以有的已经404,有的直接跳到首页,但是百度里几万个这样的链接怎么处理才好?robots文件似乎也不起作用。百度的回复也让人“无所适从”您好, 请检查网站安全问题, 可参考http……

807 浏览

这样的日志分析有问题吗?? Robots PHP JS 404

<p>用好格拉日志分析   这里是这样显示的     404的都是图片    这样的日志分析结果有哪些问题呢  谢谢大家指正</p><p>要不要将JS     PNG  JPG     PHP   这些都……

806 浏览

百度灵异事件,速来! Robots

<p>两个多月的网站没有收入网站首页,网站没有301,robots,网站地图。百度对这方面的网站是不是偏见很大?</p><p><br></p>……

806 浏览

关于网站日志分析_百度蜘蛛只抓取robots.txt Robots SEOer 排名

<p>作为SEOer近12年的工作人员,今天检测网站日志,发现百度蜘蛛200状态只抓取robots.txt文件,其他的文章,产品页面都不抓取;</p><p>因为着急让产品页面抓紧收录,获取产品词的排名:&……

805 浏览

网站权重计算因子浅析 Robots SEOer Site JS

网站权重有点老生常谈了,所以只敢写个浅析,seoer最关心的是权重,操作最频繁却是天天更新文章,换友链,发外链,为什么要重复这些搬砖的过程?发表点不一样的看法和浅薄的经验,望大家指正。一、什么是网站权重|| 引用下百科解释:权重是指某一因素……

798 浏览

使用光年日志分析系统理解与疑问 推荐热议 Robots Site 代码 索引

1,在概要分析中;访问次数指的是分析日志文件数据内时间段 引擎蜘蛛访问网站的次数吗?总抓取量则是该时间段引擎蜘蛛爬取网站页面链接的数量?那么,我在robots.txt设置了sitemap.txt 文件代码,sitemap.txt 文件里提交……

797 浏览

seo百度快照 Robots 百度快照

<p>家人们我想问问为什么我这网站上线一年还没有百度快照呀?是那个robots屏蔽了爬虫抓取信息吗?是只要改成后面那个就可以了吗?www.fugaojiaju.com</p><p><b><……

796 浏览

标题单一内容简单的论坛的帖子是否有必要屏蔽百度收录 推荐热议 Robots 百度收录 文章

网站下有一个论坛,每天都有人发表一些标题简单又有点重复的,内容大部分是图睛有的几个字或是纯图片,百度每天大部分都收录了。网站内容每天也手动更新几篇比较用心的长内容。也都收录了,但是每天收录论坛这些水帖比较多,用心的内容只占了十分之一二,这些……

796 浏览

百度蜘蛛就只抓robots咋回事? Robots 百度蜘蛛

<p>每天来一下,就抓下主页,抓几下robots,就收录了主页,内页没收,每天就对着robots一顿抓,是协议写的有问</p><p>题吗,大佬帮忙给看看</p>……

794 浏览

为什么百度只收录了网站首页?快照也不更新? Robots 百度收录 快照不更新 只收录首页

自己做了一个关于养生的网站,上线一个月左右,百度收录了网站首页。之后我每天连续发文,已经过了10天,出现两个问题:1、首页快照不更新。2、网站只收录首页,内页一篇都没收录。请问是我网站(www.regimen.live)哪里设置出了问题吗?……

793 浏览

网站关键词排名优化的几个阶段 Robots 搜狗 竞价 排名

SEO关键词优化能让网站在搜索引擎上有更好的排名。让更多的用户都能快速的查找到自己的网站关键词。为了让更多的人了解详情,下文浅析关键词SEO优化的三个阶段第一阶段:网站分析阶段我们要学会总结和分析,分析文章不收录的原因,分析网站外链无效的原……