Robots

Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
夫唯
话题优秀回答者
1314 问题
1375 浏览

加急探讨!网站拔毛了,被降权被k,site快照全无 Robots Site

各位seo的专业人士,一起探讨分析一下这个网站吧:https://www.vcg.com   网站被拔毛,快照只留主域,其他都被删除,不予检索展现,被降权的现象,看robots.txt和服务器稳定性,没有啥问题,看到搜索页面存在大量30……

1370 浏览

网站tag标签放了主关键词,是不是会影响首页的主关键词排名? Robots Tag标签 排名

<p>网站核心词老师在第二三页不动,很不稳定,有时候到首页百度已更新又没了甚至找不到,是不是因为tag标签里放了主关键词导致的权重分散了呀,要不要删除还是robots屏蔽了呢,主关键词:cpa联盟,cpa广告联盟,广告联盟,网站……

1370 浏览

关于手机移动端的问题 Robots 二级域名 移动端

网站之前是把手机端放在域名二级目录下,现在手机端已经有几百个收录了,现在还是想单独用二级域名来挂手机端,需要怎么做才能保持尽量平稳过度,不掉收录?手机端二级域名出来后,原来的二级目录下的网站是需要马上关闭还是用robots限制抓取?……

1353 浏览

移动端网站seo优化的小技巧 Robots URL结构 PC网站 文章

  一、域名和robots设置。  1、域名尽可能简短易记,大部分手机端网站的域名是PC端网站的二级域名,当然这个也很好,与传统网站保持一致,更让重视用户信赖。但是如果是专门的手机网站,最好起一个简短而且易记的域名。比如百度推荐使用以m开头……

1344 浏览

网站之前设置了robots禁止蜘蛛抓取所有页面,修改后一个星期了,还是显示限制搜索引擎抓取? 推荐热议 Robots 搜索结果 文章

之前有几个月没打理网站就一直禁止蜘蛛抓取所有页面,最近更新了一些文章,title也修改了,但是搜索结果还是以前的。提交了链接给百度,但一个星期了,百度搜索资源平台后台显示网站没有任何抓取和索引。感谢大神们指点:www.chuangyeok.……

1343 浏览

网站没有robots,没有sitemap,排名很好? Robots Site

一个网站没有robots,没有sitemap,排名倒是挺好,pc权1,移动权2,不外链,不内容,不友链,没有任何优化操作,排名杠杠的。怎么做到的?我想不明白,我的网站不停更新,就是没有排名。……

1340 浏览

网站如何添加robots文件? Robots 网站结构

优化小白提问,想知道优化网站robots文件该如何添加呢?哪位大神能教一下方法,还有我的网站结构方面,还有什么改进的地方吗?www.naiom.com帮我看一下呗。……

1340 浏览

一直听别人讲SEO,自己弄个站今天第19天,前天还收录60个,今天site只有49个页 CMS Robots Site

一直在看别人写的关于SEO文章,自己也做了一个网站,用的是.com域名,阿里云服务器,dedecms,10月10日上线,域名www.faxpp.com 做喷淋塔废气处理的,上线前产品内容基本都完善了,新闻等几个栏目,各上了5个。每天记录网站……

1335 浏览

大家帮忙看看这是什么问题? 推荐热议 Robots 搜索结果

<p>网站是五月份上线的,现在两个多月了,内页一直没收录,今天发现一个问题,就是首页有两个搜索结果,一个是带www,一个不带www,不带www的提示robots.txt文件存在限制指令,实际上robots.txt禁止是上线前设置……

1327 浏览

网站首页突然消失,该怎么恢复? Robots

网站之前用asp做的,后来更换成dede的模板,上线后robots禁止抓取,前两天解禁了,但是首页消失了,请问哪位大神遇到过这种情况,该怎么解决啊?……

1313 浏览

SEO外链人员如何发外链? Robots SEOer Site JS

SEO外链专员在国外是一份高薪且极为重要的职务,在中国则是属于比较底层的职位,薪资范围大概在2000-3000元/月,对学历几乎没有什么要 求,普通高中毕业的学生经过简单培训,就能上岗,甚至完全不要求有工作经验。应聘这个职位的SEOer(其……

1313 浏览

2个域名同时绑定到一个网站,请问如何屏蔽搜索引擎 Robots

2个域名同时绑定到一个网站,我想让搜索引擎只收录其中一个,请问怎么写robots实际情况是:A域名被微信屏蔽了,所以重新加了一个B名,但是我在外宣传都是A域名,seo也做的A域名,A域名在微信暂时还没申诉成功。所以我2个域名都能单独访问,但……

1299 浏览

网站只收录首页和新闻页,是什么原因? Robots 网站建设 根目录 文章

由于是新网站所以搜索引擎都有一个初审期,也就是搜索引擎对于一个新网站的判断期;以前百度算法没有更新的时候,一般对于新站的初审期一般都是1个月左右。而现在只要有规律的文章更新没有太多的采集文章,这个时间大概也就1-2个星期;记住!新站一定不要……

1290 浏览

请问大家百度蜘蛛不爬取新站原因都有哪些? Robots 网站程序 伪原创 文章

新建了一个网站quan116.com  有一段时间了   也一直推送百度提交收录   但是百度蜘蛛一直不爬取网站   robots设置没有问题网站程序是织梦自适应的  内容是伪原创  就是空间是买的香港虚拟主机   很便宜   一直怀疑是空……