15 人参与回答
推推蛙
推推蛙 · 擅长SEOSEM爱采购诊断、方案编写、优化运维。微信:tuituiwaseo
逆风翻盘 等 1 人赞同该回答

1、Robots屏蔽了,百度站长里面有测试是否生效,如果生效会显示蜘蛛不在抓取;

2、如果站长工具显示,输入动态URL,蜘蛛被禁止抓取,还在抓取多半非百度蜘蛛

ps:百度站长工具测试下。

如你确定是真实蜘蛛在抓取,屏蔽禁止了还在抓取,可以百度站长反馈。

梦梦
梦梦 · 泰海科技12年服务经验,专注于服务器租用

直接写入禁止抓取的文件里面,就不会抓了

酸菜鱼
酸菜鱼 · 重庆新生植发,植养护为一体,为您全方位解决脱发困扰,详情联系13276600335

检查一下文件是不是写错了

尚博思连锁管理系统
尚博思连锁 · 专业做美发、美容、养生、按摩、推拿、美甲行业收银系统
Robots禁止也不行吗
人生如Xi
人生如Xi · 聘达人是帮助求职者找工作、企业招聘员工的蓝领招聘平台,招聘求职找工作,找靠谱蓝领,马上聘达人!

Robots是不是编写错了

可以在Robots文件里设置禁止蜘蛛抓取

那就是屏蔽错了

十一
十一 · 00后的一个新手站长!!

设置一下Robots

ぃ Star dawn ★
ぃ Sta · 一条折腾的咸鱼

屏蔽还抓取的话,可以问题反馈一波,让工作人员处理下。

可以在Robots文件里设置禁止蜘蛛抓取

Robots文件里禁止,过一段时间才会生效的,不会立马生效

Robots文件里禁止蜘蛛抓取