robots已经屏蔽了动态url,为什么蜘蛛还在抓
首先跟技术沟通过动态url做跳转,但是忘记技术说什么原因了,好像是说现在这些动态url其实都是空的没办法做,我就把动态url都屏蔽了,但是蜘蛛缺每天还在大量的抓,是何解,为什么不尊重我的robots协议
4 人参与回答
权重蜘蛛-池出租丨支持测试 等 1 人赞同该回答
需要时间来沉淀啊
j
权重蜘蛛-池出租丨支持测试 等 1 人赞同该回答
要不跟百度那边反馈一下,生效了呀
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭
专栏文章