Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
用户2
话题优秀回答者
1325 问题
1560 浏览

网站一个栏目一直都没有被收录现在权3? Robots 静态

我是dede搭建的,都是纯静态页面,robots也没有,主要是关键词多,还有就是靠时间养的,我是仿的站,对seo角度不是很友好啊!但是内容不是采集的都是原创的。我想知道怎么提升收录?……

1549 浏览

robots.txt屏蔽特定页面怎么写? Robots

老哥们,我想问个问题,就是假如我网站下面有:a.com/1.html a.com/2.html ... a.com/1000.html 要屏蔽以8开头的html页面,robots.txt Disallow应该怎么写?  ……

1548 浏览

robots更新问题,从禁止所有蜘蛛抓取,到允许蜘蛛抓取已经调整过了。快照未更新 Robots 百度收录 索引

新站长时间使用robots禁止所有蜘蛛抓取,但还是被百度收录了,快照显示,网站标题下方,提示由于该网站的robots.txt文件存在限制指令(限制搜索引擎抓取),系统无法提供该页面的内容描述 ,,robots.txt已经更换为允许蜘蛛抓取,……

1542 浏览

这样设置robots 有问题吗?? Robots 404

我的robots是这样设置的,目前文章页面不抓取,不知道哪里设置有没问题,懂得人帮我看下哈 谢谢User-agent: * Disallow: /storage/ Disallow: /data/ Disallow: /so? Disall……

1536 浏览

网站robots文件常规怎么设置? 推荐热议 Robots

直接允许全部吗?还是说有什么特殊目录需要限制?# robots.txt generated at https://meimeifa.com/robots/  User-agent: * Disallow: ……

1535 浏览

百度不讲武德,我该如何整站删除百度收录? Robots Site 根目录 404

公司的站点不管是pc还是wap收录都过百万,网站有很多内容已经下架但是百度还依然保留收录快照,为此有一些早已经下架陈年违规内容保留的快照被网监给找到导致公司被罚数万元,领导现在让我解决这个问题,我的做法是先:1、在网站根目录下面添加robo……

1535 浏览

百度站长网robots错误码:500 Robots

前几天网站变慢,更新把环境和程序装了一下,之后查看百度站长网更新robots,出现,您的服务器配置有误,百度暂时无法连接您的服务器,请检查服务器的设置,确保您网站的服务器能被正常访问。错误码:500。是什么意思?……

1518 浏览

图片404影响网站优化吗?? Robots 日志分析 404

<p>日志分析里,不知道什么原因有好多图片没有(图片链接都是自己网站的 ),导致出现很多404,这样影响网站优化的吗??</p><p>把这些图片都找回来应该不现实,那这种问题该怎么处理的呢??</p……

1516 浏览

请教百度收录伪静态的问题! Robots 伪静态 PHP

我的站是用php动态做的,最近改成了伪静态,请问我要怎么让百度只收录伪静态呢,我现在的robots是这样写的  大家看看这样可以吗User-agent: *Disallow:/*.php$ ……

1515 浏览

网站一直被百度抓取wp-json怎么办? Robots JS WordPress

<p>WordPress刚建站一个月,百度就抓取乱七八糟的链接,后面用robots.txt禁止了,最近又开始抓取wp-json,用robots禁止几天都没用,该怎么办?需要在百度反馈下吗?帮我看看网站有违规吗?@蛙哥!</……

1510 浏览

最新网站降权,robots.txt也抓取不了 Robots h2 阿里云

最新网站降权,robots.txt也抓取不了,用百度云的服务器就是抓取不了,但是用阿里云的却可以,我线上给百度站长提供了解决需求也不解决。下面是我的反馈案例:你好,我的robots 线上可以正常访问的,地址:http://www.1stdy……