1 人参与回答

蜘蛛爬行你的目录,不是完全取决于你Robots或者Sitemap怎么写,引擎有自己的一套思路,会对你的目录进行不断测试。它会自己找到准确的路径。所以,你会发现蜘蛛像暴力测试一样,在不断爬取一些根本不存在的目录。

总之,很正常。