Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
用户2
话题优秀回答者
1325 问题
1730 浏览

网站上线将近半年,每天都提交百度,依旧不被收录 Robots

域名:www.dyjzscl91.comwww.dyjzscl88.com网站上线将近两个月,每天都提交百度,依旧不被收录。站长后台模拟抓取成功,也有抓取量,robots文件也没有禁止抓取。找百度站长反馈,得到的回复全部都是已经在紧急处理,……

1719 浏览

网站原来是动态的URL,2个月前做了伪静态,网站落地页也改版了。但是只收录了首页,site出来的,还有原来的动态页面收录,就是没有改版的伪静态内页收录。 Robots 伪静态 Site

网站原来是动态的URL,2个月前做了伪静态,网站落地页也改版了。但是只收录了首页,site出来的,还有原来的动态页面收录,就是没有改版的伪静态内页收录。写了robots屏蔽动态URL,还是没有用。没有做301,前一段时间日志分析,伪静态的U……

1708 浏览

网站没有robots,没有sitemap,排名很好? Robots Site

一个网站没有robots,没有sitemap,排名倒是挺好,pc权1,移动权2,不外链,不内容,不友链,没有任何优化操作,排名杠杠的。怎么做到的?我想不明白,我的网站不停更新,就是没有排名。……

1697 浏览

网站tag标签放了主关键词,是不是会影响首页的主关键词排名? Robots Tag标签 排名

<p>网站核心词老师在第二三页不动,很不稳定,有时候到首页百度已更新又没了甚至找不到,是不是因为tag标签里放了主关键词导致的权重分散了呀,要不要删除还是robots屏蔽了呢,主关键词:cpa联盟,cpa广告联盟,广告联盟,网站……

1674 浏览

一直听别人讲SEO,自己弄个站今天第19天,前天还收录60个,今天site只有49个页 CMS Robots Site

一直在看别人写的关于SEO文章,自己也做了一个网站,用的是.com域名,阿里云服务器,dedecms,10月10日上线,域名www.faxpp.com 做喷淋塔废气处理的,上线前产品内容基本都完善了,新闻等几个栏目,各上了5个。每天记录网站……

1670 浏览

现在的网站内页及文章也搜索展现的都是动态url页面,静态页面也有些被收录,现在用robots屏蔽动态url会对权重或排名有影响吗? Robots 301重定向 关键词排名

我随便去复制网站里的文章标题去百度,出来结果都是带?的,也就是动态,然后有的文章动态和静态都收录了,但更多的是动态的一定会被收录,静态的有些不会收录。目前的很多关键词排名都不错,差不多都在首页,一些指数上千的也在第二页,如果这个时候用rob……

1661 浏览

SEO外链人员如何发外链? Robots SEOer Site JS

SEO外链专员在国外是一份高薪且极为重要的职务,在中国则是属于比较底层的职位,薪资范围大概在2000-3000元/月,对学历几乎没有什么要 求,普通高中毕业的学生经过简单培训,就能上岗,甚至完全不要求有工作经验。应聘这个职位的SEOer(其……

1648 浏览

网站只收录首页和新闻页,是什么原因? Robots 网站建设 根目录 文章

由于是新网站所以搜索引擎都有一个初审期,也就是搜索引擎对于一个新网站的判断期;以前百度算法没有更新的时候,一般对于新站的初审期一般都是1个月左右。而现在只要有规律的文章更新没有太多的采集文章,这个时间大概也就1-2个星期;记住!新站一定不要……

1647 浏览

关于手机移动端的问题 Robots 二级域名 移动端

网站之前是把手机端放在域名二级目录下,现在手机端已经有几百个收录了,现在还是想单独用二级域名来挂手机端,需要怎么做才能保持尽量平稳过度,不掉收录?手机端二级域名出来后,原来的二级目录下的网站是需要马上关闭还是用robots限制抓取?……

1644 浏览

网站如何添加robots文件? Robots 网站结构

优化小白提问,想知道优化网站robots文件该如何添加呢?哪位大神能教一下方法,还有我的网站结构方面,还有什么改进的地方吗?www.naiom.com帮我看一下呗。……

1644 浏览

网站首页突然消失,该怎么恢复? Robots

网站之前用asp做的,后来更换成dede的模板,上线后robots禁止抓取,前两天解禁了,但是首页消失了,请问哪位大神遇到过这种情况,该怎么解决啊?……

1627 浏览

想请大神看下我的网站怎样可以收录 Robots 404页面 CDN 404

<p>  11月之前出现过连接超时就不怎么收录,用熊掌号可以收录,后来服务器加了cdn连接不超时了,网站日志查出来有大量的404页面,现在已经提交了404页面,网站robots,也已经更改,现在还是不怎么收录,</p>……