Robots

中文称:爬虫协议。简单说,robots.txt文件用于告诉搜索引擎哪些页面不被开放、禁止抓取。大多数搜索引擎公司都会自觉遵守该协议内容,一方面可以保护用户隐私数据,另一方面也可以通过此协议控制爬虫抓取范围,从事减少网站带宽。
相关话题
用户2
话题优秀回答者
1325 问题
1246 浏览

请教搜外小伙伴两个站内优化问题? 长尾关键词 Robots 关键词布局 站内优化

1.列表页或栏目页中“上一页”“下一页”用robots.txt都需要屏蔽吗?这样不就整个栏目页面都需要进行屏蔽了。2.热搜关键词和长位关键词是对立的。热搜关键词一般布局在首页,栏目页,内容页,长尾关键词布局在栏目页,内容页,这样栏目页和内容……

1244 浏览

网站近期索引量爆跌,网站也被降权,谁能帮忙分析一下原因呢? Robots Site 排名 文章

网站之前因为robots文件误操作导致各方数据爆跌,但后面经过每天持续的正常优化维护后,网站恢复如初,权重还由一上升到二,索引量、关键词库也在持续增长,一切似乎都在往好的方面发展。但是在15号网站索引量直接减少514条,当时出现了一定的影响……

1238 浏览

大神帮忙看一下这个现象!!! Robots 站长工具

<p></p><p><br></p><p>站长工具说是服务器不稳定导致,可是网站一直访问都是属于正常状态,所以跑到站长工具测试了一下抓取诊断,提示拒绝访问,可是robo……

1236 浏览

对国内SEO现状的一点思考 软文 Robots SEOer Site

我讲一件真实的事情。我在一个群里看见一个很活跃的群友,在宣传自己说接单可以找他,保证见效,无效退款。我私聊他,把BSG的网址给他,我说你简单评估一下这个站。我刚发过去没多久,他消息过来了:首页内容过少,没有什么有价值信息,要充实内容。没有合……

1235 浏览

怎样才能屏蔽各大搜索引擎蜘蛛的抓取? Robots 百度收录 竞价 排名

我们公司有两个网站,两个网站内容一模一样,只是地区不一样,一个是做成都,一个是做重庆,一个网站用来做竞价,另一个网站用来做自然排名,我想把做竞价的那个网站屏蔽掉,不让各大搜索引擎抓取网站,我目前是写的一个robots文件,里边的内容如下:U……

1229 浏览

为啥我的小说站不收录内页呢 Robots Site 吐槽 Sitemap

新站上线半个月了,老域名。主动推送+robots推送+sitemap=就是不收内容页。是不是该再等等呢。小说站www.147t.com大神帮我看看行吗。顺便吐槽一下这个百度站长工具sitemap一直在等待中,抓取频次是上个月的,索引还没出来……

1229 浏览

网站死链处理方法 Robots 404页面 404 代码

  死链多是由改版前的网站沉淀下来的链接,由于网站改版所引起的链接地址的变化,从而导致原来页面的不存在,在搜索引擎爬行所返回404代码。这里需要我们做好死链的处理工作。   1、增加用户体验度,制作404页面   网上有许多404页面设计及……

1227 浏览

站长平台Robots请教 Robots 备案 代码

<p>年前因为备案原因使用另一个域名使用Robots,对整站抓取做了屏蔽如图:</p><p></p><p>但年后使用新的域名,也把Robot屏蔽代码删除,现在如下图:</p&……

1226 浏览

公司特殊原因,网站要robots屏蔽内容抓取,但又需要做排名,怎么解决? Robots 二级域名 排名

公司网站因为特殊原因,主站内部的内容是robot不允许被抓取的,但是老板又想要网站优化有排名,这让人很困扰。我想是建立一个二级域名,通过优化二级域名的排名来给一级域名传导权重,不知道这样是否合适?或者有其他方法可以操作?……

1225 浏览

SEO生成网站地图的工具有哪些? Robots

有没有功能强大点的网站地图生成工具,最好能根据robots去爬URL的那种。很多链接不想放到网站地图了。有没有好的网站工具推荐一下呢?……

1225 浏览

当网站突然不收录新内容,应该从哪些地方找问题 Robots 站长工具 老域名 索引

网站突然出现蜘蛛不抓取新内容,我们应该从哪些地方找原因:1、老域名改网站做了3个月,权重6,目前是流量变化不大,然后站长工具有轻微降权。2、我的网站手动更新,一天手动做30-40篇,工作8小时。3、资源平台反馈百度 2次无效(怀疑机器人回复……

1222 浏览

哪些页面需要加robots呢? Robots Nofollow

最近一段时间学习NOFOLLOW的添加方法,感谢大神们的一路知道。最近网站一直比较积极。今天想学习一下一般来讲,哪些页面需要加Robots协议呢?……

1221 浏览

网站上线2个月不收录,10年老站长第一次遇到,有哪位高手来分析分析? Robots Site Sitemap 代码

网站上线2个多月,目前一个页面都不收录,十年的老站长还是第一次遇到,内容基本是原创的,robots没问题,sitemap什么的都正常提交,代码也检查过几遍,站长平台反馈什么回应都没有,网站名称:必经地旅游网,网址:www.bijingdi.……

1214 浏览

robots屏蔽问题 Robots

问下兄弟们像下面的链接 有没有比后面这个更简单点的写法  Disallow: /author-1.html xxxxx/author-1.htmlxxxxx/author-1_1.htmlxxxxx/author-1_2.htmlxxxxx……

1213 浏览

网站的robots文件要怎么写? Robots

<p><font size="4">我想让蜘蛛不爬我网站新闻栏目的其中一项,比如图中“帝唐动态”这一栏的所有新闻都不让蜘蛛爬取收录,网站的robots文件要怎么写呢。我目前自个写的robot文件没……

1212 浏览

昨天屏蔽谷歌蜘蛛后,网站打开速度快了很多! Robots PHP Discuz 网站打开速度

天下苦谷歌久已,以前网站打开速度慢!服务器负载经常被干满,检查了很多地方没有找到原因!昨天安装了个蜘蛛插件发现谷歌蜘蛛来得比较多!所以直接给屏蔽了谷歌蜘蛛,今天发现网站速度打开块很多了!服务器负载也接近空载在跑https://www.108……