蜘蛛抓取的都是筛选结果页,怎么处理?抓取的好多都是这种的,无语
抓取份额是搜索引擎蜘蛛花在一个网站上的抓取页面的总的时间上限。对于特定网站,搜索引擎蜘蛛花在这个网站上的总时间是相对固定的,不会无限制地抓取网站所有页面。
不太懂 你应该配个图说明的
不是很理解呢啊
让更多人参与回答