<p>如截图的链接,蜘蛛每天都在抓取,屏蔽动态链接也没有用。</p><p><br></p>
1、Robots屏蔽了,百度站长里面有测试是否生效,如果生效会显示蜘蛛不在抓取;
2、如果站长工具显示,输入动态URL,蜘蛛被禁止抓取,还在抓取多半非百度蜘蛛。
ps:百度站长工具测试下。
如你确定是真实蜘蛛在抓取,屏蔽禁止了还在抓取,可以百度站长反馈。
直接写入禁止抓取的文件里面,就不会抓了
检查一下文件是不是写错了
Robots是不是编写错了
可以在Robots文件里设置禁止蜘蛛抓取
那就是屏蔽错了
设置一下Robots啊
屏蔽还抓取的话,可以问题反馈一波,让工作人员处理下。
Robots文件里禁止,过一段时间才会生效的,不会立马生效
Robots文件里禁止蜘蛛抓取
让更多人参与回答