robots屏蔽抓取后,修改地址后,相似路径是否会屏蔽?
网站上线后设了robots全站屏蔽.在大概第7天,把www.xxx.com/html/abc,中间那一层的html去掉,现在的链接是www.xxx.com/abc.因为不是在上传到空间之前就把/html这层去掉。
请问下,到时候robots让抓取之后,会不会出现html和没有html都被抓取收录。如果出现这种情况的话,应该如何处理?
网站上线后设了robots全站屏蔽.在大概第7天,把www.xxx.com/html/abc,中间那一层的html去掉,现在的链接是www.xxx.com/abc.因为不是在上传到空间之前就把/html这层去掉。
请问下,到时候robots让抓取之后,会不会出现html和没有html都被抓取收录。如果出现这种情况的话,应该如何处理?