我这网站一天蜘蛛走680多个页面,其中有180多个是robots.txt,这正常吗????
蹲一个大佬的回复,想知道+1
一天抓680个页面是从站长平台里统计看到的吗,如果不是的话,不一定准确哦
蜘蛛访问你的网站,第一个访问的就是Robots。 访问多少个页面是否正常,这个和你的网站页面数量有关。
抓取结果也就无太大问题
正常,有的还有1000多呢
你要分析蜘蛛是真还是假,然后检测Robots文件是否有错误,网站没有什么异常的话,是不用担心的
这很正常的啊
1、蜘蛛有真的,也有虚假的模拟的; 2、蜘蛛数量,可以对比着蜘蛛抓取频次; 3、网站无异常,这个抓取结果也就无太大问题。
让更多人参与回答