4 人参与回答
商标网
商标网 · 商标注册、商标查询、商标转让

这个限制抓取的上面那些文件或者文件夹  上述设置不影响正常抓取 

推推蛙
推推蛙 · 擅长SEOSEM爱采购诊断、方案编写、优化运维。微信:tuituiwaseo

1、你的这个里面无屏蔽整站,不影响其他正常页面抓取;

2、抓取诊断,你的页面,看看是否正常抓取。

金色世纪
金色世纪 · 网站,域名,seo:QQ群492321768

看样子你是新手,这些是屏蔽蜘蛛不要访问没有内容的地方,这种屏蔽是必要的,这个Robots文件,起到引导蜘蛛访问的功能。建议在里面加上网站地图最好了。