当服务器由于某种原因造成网页响应时间延长,用户打开网页体验变差,这种情况下当服务器响应时间超过几秒后直接返回给用户或搜索蜘蛛503状态码,告诉用户稍后重试或告诉搜索蜘蛛稍后重新来抓取合适
没有关注过这个问题哎
一般没人研究你这个问题吧
1、5xx服务器的问题,蜘蛛再次抓取就正常了吗,这个不一定,因此就按正常的返回5xx码即可;
2、如果在分析日志或者抓取异常遇到这种情况,做好提交推送URL即可。
让更多人参与回答