今天用百度站长工具测试一下robots出现问题了,大家会不会这样还是只有我这样? Robots 站长工具 百度站长工具
<p><br></p>
<p><br></p>
我是dede搭建的,都是纯静态页面,robots也没有,主要是关键词多,还有就是靠时间养的,我是仿的站,对seo角度不是很友好啊!但是内容不是采集的都是原创的。我想知道怎么提升收录?……
1、有什么办法可以更好的解决?2、不解决会有什么影响?3、使用robots的方法会不会有影响?……
老哥们,我想问个问题,就是假如我网站下面有:a.com/1.html a.com/2.html ... a.com/1000.html 要屏蔽以8开头的html页面,robots.txt Disallow应该怎么写? ……
robots.txt文件 里可以有空行吗?比如:Disallow: /plus和 Disallow: /data中间隔了几行User-agent: * Disallow: /plus Disallow: /data……
大佬们,我是第一次做双端的站点关于robots有个问题啊因为m端是放在了pc端的根目录下面,就意味pc的robots不禁止m目录的话 那抓取会变成主域名 +m+内容html,这样的话岂不是和镜像一个意思,百度直接会说我是作弊啊。。。咋办啊 ……
网站地图SitemapX制作网站地图时需要上传robots文件吗?
discuz程序robots直接屏蔽掉所有动态页面怎么样?
这个网站,比如 http://www.qiuxue88.com/pages_13/是关于我们栏目,但是还存在另外一个url多了一个问号www.qiuxue88.com/?pages_13/也就是 www.qiuxue88.com/page……
我的robots是这样设置的,目前文章页面不抓取,不知道哪里设置有没问题,懂得人帮我看下哈 谢谢User-agent: * Disallow: /storage/ Disallow: /data/ Disallow: /so? Disall……
如题,有大佬告知吗???
今天检查网站时,突然发现site+域名 收录全部没有展现了,测试了一下抓取正常,robots也正常,网站基本是每天正常维护,没有使用任何违规手法,这种情况除了反馈还有没有办法解决呢?……
robots没有拦截,访问网站时确实是改了,但快照就是更新不成功,还有百度资源平台那个robots更新一直提示请求失败。……
网站突然被降权的现象,索引量800多万,但site数据没有,包括首页数据没有,服务器一直运行正常、robots.txt文件也正常。不知道哪里出了问题。……
新站robots.屏蔽后为什么还是被抓取收录?
可以用robots.txt 文件禁止搜索引擎访问 上传的图片文件夹吗 ?会对网页的正常收录有影响吗?……
meta robots标签中 NOFOLLOW是告诉搜索引擎不要跟踪本页面上的链接,对吗?
我的站是用php动态做的,最近改成了伪静态,请问我要怎么让百度只收录伪静态呢,我现在的robots是这样写的 大家看看这样可以吗User-agent: *Disallow:/*.php$ ……
前几天网站变慢,更新把环境和程序装了一下,之后查看百度站长网更新robots,出现,您的服务器配置有误,百度暂时无法连接您的服务器,请检查服务器的设置,确保您网站的服务器能被正常访问。错误码:500。是什么意思?……
<p>新站点,二十多天不收录站点,然后去站长平台弄自动推送后<a href="http://www.wanjiadenhuo.com/" target="_blank" data-u……
<p>robots.txt文已删除,什么时候搜索引擎才会再抓取我们网站,我看站长工具已经好几天没有来抓取了</p><p><b></b><i></i><……
<p>以前我网站发东西都是秒收录。</p><p>上次改一个测试站的robots.txt ,想把全部搜索引擎都禁了,不小心改到主网站的了,后来发现后就修复了。</p><p>好像就是从……
请教一下大家,我的站 猫猫狗狗趣事 。之前犯了个错误,ROBOTS把图片给禁了,SITE没法出图,收录率也不高,昨天晚上改回来了,这样收录会有改善吗。……
Disallow: /adminDisallow: /images与Disallow: /admin/Disallow: /images/有区别吗?
新站长时间使用robots禁止所有蜘蛛抓取,但还是被百度收录了,快照显示,网站标题下方,提示由于该网站的robots.txt文件存在限制指令(限制搜索引擎抓取),系统无法提供该页面的内容描述 ,,robots.txt已经更换为允许蜘蛛抓取,……
robots.txt 文件如何禁止搜索引擎访问某个子目录下某个页面之外的其他所有页面?
robots文件问题咨询robots文件既然分Allow: /和Disallow: / 我的问题是我先要被抓取的很简单只有首页、栏目页、文章页,除此以外各种图片、会员、任务、等等目录都没有收录价值而且非常杂乱,禁止起来比较麻烦。那么我只书……
我在robots.txt中设置了禁止百度收录我网站的内容,为何还出现在百度搜索结果中?
比如网站路径xxx.xxx/skin/css/model.css还有xxx.xxx/skin/js/jquery-1.8.3.min.js这种路径得需要写入robots么?需要得话格式要怎么写呢?是这样写么?Disallow: /skin/……
像这样:User-agent: *Disallow: /*?*Disallow: /*.php$Disallow: /*.js$Disallow: /*.css$Disallow: /includeDisallow: /templets……
<p>给首页加了判断,当用户使用ie访问时,会提示用户浏览器版本过低升级浏览器,做了这个之后百度抓取首页标题成了提示页面的标题如下</p><p><br></p><p>这……
<p>关于robots协议到底能不能用通配符呢?百度百科说不能。到底能不能呢???</p><p><br></p><p><br></p><p……
修改robots之后多久生效?
百度站长平台robots无法检测了,之前还可以正常失败,最近总是提示:请求失败,我们已记录此问题并将尽快处理,请刷新页面或稍后再试。你们也是这种情况吗,现在我有些不想被抓取的页面也收录了……
请教下大家,最近百度一直来访问这些404的页面,都是一直在重复访问这些的,我统计了下,总共97个404页面,天天来,一天差不多访问几百次,我也多次在百度站长那提交了这些死链接过去,但是还是一直来访问,后面提交了百度反馈,让我设置robots……
robots标记如何影响搜索引擎抓取/索引/显示网页资料呢?
直接允许全部吗?还是说有什么特殊目录需要限制?# robots.txt generated at https://meimeifa.com/robots/ User-agent: * Disallow: ……