Robots

网站问题，收录，网站诊断，优化问题，robots，路径设置 Robots 网站诊断

这是一条关于基础优化的帖子，大家一起看一下基础优化还有哪些需要来修改的案例网站：icmrop.com……

老域名，只收录首页，这几天也一直在提交资源平台 Robots 老域名 更新文章 文章

www.bomman.com   一开始我以为是robots的禁止抓取，结果不是，网站目前可查的问题也不是直接影响没有收录的原因，每天也有更新文章，而且数量也不小。……

如果新站做个网站地图 那么地图放首页好还是 每个页面都需要放地图呢 Robots

如果新站做个网站地图 那么地图放首页好还是 每个页面都需要放地图呢  地图上 需要放 robots 的吗https://www.xiaomeisp.com……

站长后台的Robots工具可以用了 Robots

robots屏蔽抓取后，修改地址后，相似路径是否会屏蔽？ Robots

网站上线后设了robots全站屏蔽.在大概第7天，把www.xxx.com/html/abc,中间那一层的html去掉,现在的链接是www.xxx.com/abc.因为不是在上传到空间之前就把/html这层去掉。请问下，到时候robots让……

屏蔽百度Robots高技术活来了，请教大佬们来看看~ Robots

以下举例链接：网址/com/zhang3/news/page-1.html网址/com/li4/news/page-5.html网址/com/wang2/news/page-7.html网址/com/liu5/news/page-9.htm……

robots更新问题，从禁止所有蜘蛛抓取，到允许蜘蛛抓取已经调整过了。快照未更新 Robots 百度收录 索引

新站长时间使用robots禁止所有蜘蛛抓取，但还是被百度收录了，快照显示，网站标题下方，提示由于该网站的robots.txt文件存在限制指令（限制搜索引擎抓取），系统无法提供该页面的内容描述 ，，robots.txt已经更换为允许蜘蛛抓取，……

robots文件检测（检测并更新）请求失败是怎么回事？求教！ Robots

<p></p>

网站收录了很多404页面及没有内容的文章页，但正常页面收录少怎么处理？ Robots 404 文章

网站www.sresky.com/改版后，出现很多404页面，提交了死链，但没用。然后在robots文件加了Disallow:，但仍旧没用，请教各位大神，1、如何让百度不收录404页面？2、没有内容的文章页该如何屏蔽掉？……

常见元标签有哪些 应该怎么设置标签呢？ Robots

元标签在做网站的实操中真正用到的没有几个，但自从SEO行业兴起之后，各类被冷落的标签又重新运用起来了，如某些时候 robots.txt文件不能解决一些特殊的环境，而是采用页面内的 robots标签来引导蜘蛛的走向。https://www.s……

robots我这样写对吗 Robots Site Sitemap JS

User-agent: * Disallow: /zb_system/script/c_html_js_add.jsSitemap: https://www.sxgjgcf.com/sitemap.xml第二种User-agent: *Di……

请教搜外小伙伴两个站内优化问题？ 长尾关键词 Robots 关键词布局 站内优化

1.列表页或栏目页中“上一页”“下一页”用robots.txt都需要屏蔽吗？这样不就整个栏目页面都需要进行屏蔽了。2.热搜关键词和长位关键词是对立的。热搜关键词一般布局在首页，栏目页，内容页，长尾关键词布局在栏目页，内容页，这样栏目页和内容……

为什么百度快照更新了好几次就是不更新，还是原标题跟描述。兄弟们有遇到过这个问题吗？ Robots 百度快照 快照更新 百度资源平台

robots没有拦截，访问网站时确实是改了，但快照就是更新不成功，还有百度资源平台那个robots更新一直提示请求失败。……

请问你们有百度资源平台robots文件无法更新的情况吗？ Robots 百度资源平台

<p></p>

蜘蛛池对收录有帮助吗 Robots 排名 文章 友链

<p>小编——@小红帽蜘蛛池，快速收录支持测试</p><p></p><p>一是网站关键字定位。</p><p>这个概念很大，需要细分理解。比如从没有太多推广经……

robots协议具体不让蜘蛛抓取哪些页面？ Robots

一般不让蜘蛛抓取哪些页面？求解答

网站首页、分类等列表页是否有必要用robots.txt禁止收录翻页？ Robots

欧美的个人博客网站首页、分类表、标签页等都有很多分页，标题、关键词、描述等内容基本上相同，最多加上“第几页”之类的。有些站长说为了集权要屏蔽掉其他分页，只保留第一页，可通过robots.txt实现；有些站长说不用理会。所以我们是否有必要禁止……

百度资源平台，上传robots文件，提示500，要怎么处理？ Robots 百度资源平台 代码

我上传robots出现下面这些代码：百度暂时无法连接您的服务器，请检查服务器的设置，确保您网站的服务器能被正常访问。错误码：500 网站是可以正常访问的，这个是权限的问题吗？我是菜鸟请帮下哦……

购买的老域名建站，有之前的url抓取，要怎么处理？ Robots 404页面 404 索引

买了一个老域名建站，这个域名以前发过很多外链，但是发的基本都是栏目页和内容页的外链，现在通过网站日志发现蜘蛛通过这些以前发的外链爬到网站，但是这些栏目页和内容页都不存在了，所以导致蜘蛛每次爬过来都是404页面。这种情况要不要向搜索引擎提交下……

网站没有robots文件有什么影响 Robots

wordpress的robots.txt的做法？ Robots WordPress

谁来帮我看看，百度蜘蛛胡乱抓取不存在的url Robots 网站日志 404 代码

<p>我的网站www.njrxi.com今天正好开通一个月了，目前就收录个首页，前几天我开始查询蜘蛛抓取情况，发现百度每天只抓取首页和一个目录：www.njrxi.com/showmaster/ 来源是www.njrxi.com……

Robots更新请求失败这是怎么回事？ Robots

<p><br></p>

DZ论坛设置伪静态了需要robots禁止抓取动态链接吗？ Robots 静态

DZ论坛设置伪静态了需要robots禁止抓取动态链接吗？我看还有在抓动态链接的，会不会双收录Disallow: /*?*这样对吧？……

怎么设置通过 robots.txt 允许、禁止搜索引擎收录方法？？ Robots 索引

我这个网站的robots文件，这样写会对吗？网站：https://www.icarexm.com/

请问下大神们，百度为什么就爬首页和以前老早删除了的页面？ Robots 404页面 PHP 404

<p>请问下大神们，百度为什么就爬首页和以前老早删除了的页面？站点两年了，以前没空弄，中间丢失了很多页面，数据没了，网站一直没关过，只是服务器忘记续费了，几天才发现没备份，全重做了，目录路劲没变，我重新更新一个多月了，谷歌，神马……

新网站上线后，首页被收录，但是提示robots不对 Robots

<p></p>

网站收录的低质量页面，通过robots屏蔽是否可以？ 网站收录 Robots 404

之前收录的低质量页面，我在robots.txt中Disallow了一下，这个页面百度会自动删除吗？ 因为很多页面带参数的，后台删掉这个内容，这个页面还是存在的，只是内容为空了，不存在404这种情况，我只是在robots.txt中Disall……

robots屏蔽目录抓取，这样写是否正确？ Robots 根目录 索引

我不想让搜索引擎抓取收录网站根目录下english和admin文件夹里面的所有页面，robots.txt的文件这样写对不对？请高手指点一下User-agent: *Disallow: /english/Disallow: /admin/……

中英文双模板的网站如何优化处理，比较合适？ Robots 二级域名

网站有中英文2个版本，应该如何处理才不会影响到中文版本的优化呢，英文是目录（www.abc.com/en）还是开个二级域名（en.abc.com）好呢?中英文两套程序是共存在一个虚机中，英文版的反正不考虑优化，是不是可以直接robots.t……

屏蔽蜘蛛后百度站长平台仍然能正常抓取？？？？？ Robots 站长平台

前段时间进行了网站迁移，可是我忽视了一个事情我之前是有两个网站解析到一个域名上面，因为怕一些事情就吧这个网站下面的Robots给屏蔽了，这次网站迁移没有配置这个 ，我就一直好奇，为啥我的蜘蛛一直是0。也查了很多东西都不知道，然后百度站长平台……

robots屏蔽的内容，为什么百度依然还是收录，展示？ Robots 垃圾内容

我想将网站的垃圾内容用rotbots屏蔽，我记得百度学院说过-去掉垃圾内容可以用rotbots屏蔽掉即可。但是我发现一个问题，用rotbots屏蔽的内容还是被收录了。难道，百度自己说的也是屁话了？？？？……

关于网站日志分析_百度蜘蛛只抓取robots.txt Robots SEOer 排名

<p>作为SEOer近12年的工作人员，今天检测网站日志，发现百度蜘蛛200状态只抓取robots.txt文件，其他的文章，产品页面都不抓取；</p><p>因为着急让产品页面抓紧收录，获取产品词的排名：&……

网站屏蔽动态url，robots文件中已经写了，是否还需要nofollow？ Robots Nofollow

比如我在robots.txt 上写了  Disallow: /*?*    那我还需要 在带？号的链接上带上Nofollow吗？？？另外robots.txt  Nofollow  是一样的用意吗？   是重复了 还是没重复？？……

robots我明明已经禁止red前缀的链接，百度为啥还收录 Robots

<p>robots我明明已经禁止red前缀的链接，百度为啥还收录？？还有我检查robots也是正常正确的。</p><p><br></p>……

麻烦大神们看下我robots这条是什么意思，可以把它删了不 Robots 404

<p>麻烦大神们看下我robots这条是什么意思，可以把它删了不，还有就是我已经禁止抓取动态页面了，为什么还是会出现抓取动态页面的情况，还有看日志出现很多不知道的404动态网址链接，这个需要处理不，请求大神回复</p>……

新买的域名五十多天了没有任何收录痕迹，查了才知道是老域名，大家给些建议 数据库 Robots 老域名

<p>1买的域名是www.158116.com</p><p>2因为我是新手 部署网站也是某宝弄的 所以换域名的话可能又要另外花一份钱 所以请大家看看这个结果我是继续优化还是死心换域名</p>&……

我的robots可以正常访问，为啥百度说我服务器访问有问题？ Robots 百度说

<p>我的robots可以正常访问</p><p></p><p><br></p><p>百度说服务器有问题</p><p>&l……

网站关键词搜索结果中出现大量外链怎么办？ Robots SEOer PHP 跳转

网站和评论中的外链新采用了 exmple .com/go.php ?url= http: // abc .com 的方法跳转,统计外链的访问次数等等.go.php 是直接跳转, 不是呈现一个页面说明"您将离开本网站"这种.外链全部加了rel……

新站提问：百度蜘蛛疯狂抓取wp-json这个目录，请问对网站有什么影响吗？ Robots JS 宝塔

萌新做了个新站，在宝塔后台开通付费统计插件，发现百度蜘蛛疯狂抓取wp-json这个目录，请问这个目录文件有什么作用？百度蜘蛛抓取这个目录对网站有什么影响吗？有没有方法禁止百度蜘蛛抓取？目前我通过添加 移除头部 wp-json 代码，robo……