网页被robots屏蔽了,不是说屏蔽了以后就不会被抓取和收录了吗?
为什么我网站的网页被robots屏蔽了之后,我从网站日志分析后还会能看到被蜘蛛抓取和收录呢?不是说屏蔽了以后就不会被抓取和收录了吗?
4 人参与回答
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭