2 人参与回答
最佳回答

问题不是很清晰。

也会存在真实蜘蛛抓取量过大导致服务器压力过大,网站打开慢或者无法打开的情况。

解决方向:
1、先要判断是否是真实蜘蛛,如果不是加入黑名单进行控制。

2、如果是百度蜘蛛,建议利用Robots.txt文件避开陷阱。

3、利用抓取频次工具来控制频次。

4、服务器升级