Baiduspider对一个网站服务器造成的访问压力如何? 怎样才算正常。
匿名用户
问题不是很清晰。
也会存在真实蜘蛛抓取量过大导致服务器压力过大,网站打开慢或者无法打开的情况。
解决方向:1、先要判断是否是真实蜘蛛,如果不是加入黑名单进行控制。
2、如果是百度蜘蛛,建议利用Robots.txt文件避开陷阱。
3、利用抓取频次工具来控制频次。
4、服务器升级
让更多人参与回答