Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
用户2
话题优秀回答者
1325 问题
1517 浏览

网站一个栏目一直都没有被收录现在权3? Robots 静态

我是dede搭建的,都是纯静态页面,robots也没有,主要是关键词多,还有就是靠时间养的,我是仿的站,对seo角度不是很友好啊!但是内容不是采集的都是原创的。我想知道怎么提升收录?……

1510 浏览

robots.txt屏蔽特定页面怎么写? Robots

老哥们,我想问个问题,就是假如我网站下面有:a.com/1.html a.com/2.html ... a.com/1000.html 要屏蔽以8开头的html页面,robots.txt Disallow应该怎么写?  ……

1508 浏览

这样设置robots 有问题吗?? Robots 404

我的robots是这样设置的,目前文章页面不抓取,不知道哪里设置有没问题,懂得人帮我看下哈 谢谢User-agent: * Disallow: /storage/ Disallow: /data/ Disallow: /so? Disall……

1501 浏览

这几天很多访问404的怎么回事? 推荐热议 Robots 404页面 404

请教下大家,最近百度一直来访问这些404的页面,都是一直在重复访问这些的,我统计了下,总共97个404页面,天天来,一天差不多访问几百次,我也多次在百度站长那提交了这些死链接过去,但是还是一直来访问,后面提交了百度反馈,让我设置robots……

1487 浏览

百度站长网robots错误码:500 Robots

前几天网站变慢,更新把环境和程序装了一下,之后查看百度站长网更新robots,出现,您的服务器配置有误,百度暂时无法连接您的服务器,请检查服务器的设置,确保您网站的服务器能被正常访问。错误码:500。是什么意思?……

1486 浏览

robots更新问题,从禁止所有蜘蛛抓取,到允许蜘蛛抓取已经调整过了。快照未更新 Robots 百度收录 索引

新站长时间使用robots禁止所有蜘蛛抓取,但还是被百度收录了,快照显示,网站标题下方,提示由于该网站的robots.txt文件存在限制指令(限制搜索引擎抓取),系统无法提供该页面的内容描述 ,,robots.txt已经更换为允许蜘蛛抓取,……

1483 浏览

请教百度收录伪静态的问题! Robots 伪静态 PHP

我的站是用php动态做的,最近改成了伪静态,请问我要怎么让百度只收录伪静态呢,我现在的robots是这样写的  大家看看这样可以吗User-agent: *Disallow:/*.php$ ……

1470 浏览

网站robots文件常规怎么设置? 推荐热议 Robots

直接允许全部吗?还是说有什么特殊目录需要限制?# robots.txt generated at https://meimeifa.com/robots/  User-agent: * Disallow: ……

1469 浏览

robots文件问题咨询 Robots 文章

robots文件问题咨询robots文件既然分Allow: /和Disallow: /  我的问题是我先要被抓取的很简单只有首页、栏目页、文章页,除此以外各种图片、会员、任务、等等目录都没有收录价值而且非常杂乱,禁止起来比较麻烦。那么我只书……

1467 浏览

图片404影响网站优化吗?? Robots 日志分析 404

<p>日志分析里,不知道什么原因有好多图片没有(图片链接都是自己网站的 ),导致出现很多404,这样影响网站优化的吗??</p><p>把这些图片都找回来应该不现实,那这种问题该怎么处理的呢??</p……

1465 浏览

百度不讲武德,我该如何整站删除百度收录? Robots Site 根目录 404

公司的站点不管是pc还是wap收录都过百万,网站有很多内容已经下架但是百度还依然保留收录快照,为此有一些早已经下架陈年违规内容保留的快照被网监给找到导致公司被罚数万元,领导现在让我解决这个问题,我的做法是先:1、在网站根目录下面添加robo……