搜外网>搜外问答>问答页面

蜘蛛不来网站抓取页面怎么回事?

蜘蛛已经不来网站抓取页面了,怎么提高蜘蛛抓取次数让蜘蛛来网站,我需要怎么引导蜘蛛,蜘蛛有一个星期不来页面抓取,之前是正常的就是最近突然就不来了,引导蜘蛛有什么办法?

追加问题
    4 人参与回答
天行健咨询
天行健咨询 · 精益生产管理与六西格玛管理咨询,培训机构

如果出现了搜索引擎蜘蛛不爬取网站的情况还需要检查一下Robots文件是否书写错误,是不是屏蔽了搜索引擎蜘蛛。

下面是一些常见的robots文件写法:

  1. 禁止所有搜索引擎蜘蛛访问网站的任何部分:

User-agent:*

Disallow:/
  1. 允许所有搜索引擎蜘蛛访问网站的任何部分:

User-agent:*

Allow:/
  1. 仅禁止baiduspider访问您的网站:

User-agent:Baiduspider

Disallow:/
  1. 仅允许baiduspider以及googlebot访问:

User-agent:Baiduspider

Allow:/

User-agent:Googlebot

Allow:/

User-agent:*

Disallow:/
利美医疗
利美医疗 · 四川利美医疗是一家集一次性口罩、口罩辅料、清洁防护用品的研发、设计、生产、销售为一体的高新技术企业!

提交文章质量和更新频率

多发发内容 发内容也要有规律

兴哥
兴哥 · POS机刷卡机免费办理

多发发内容 发内容也要有规律

SEO培训招生中
189