<p>内页明明没有设置robots屏蔽,但是就是模拟抓取显示robots屏蔽,主页可以正常抓取,</p><p></p>
把Robots文件贴出来看看,就知道了! 谁知道你有没有写错协议呢
Robots文件里面没写封禁,如果一直如此,不妨去申诉反馈,看是否平台自身出现问题
1、检查Robots文件里面是否有屏蔽,没屏蔽无影响;
2、robots的那个也能去检测是否屏蔽,去百度站长robots那边去检测下,看是否红字显示已封禁;
3、如果robots哪里显示没封禁,那就没问题,如果显示封禁了,那尝试,将robots文件复制出来,暂且删除下,在抓取下,看是否正常。
匿名用户
以你Robots文件为准
已经好了各位老哥,可能是有延时吧
有没有可能内页所在的文件夹在Robots规则中被Disallow了?
让更多人参与回答