Skip to content

错误处理

稳定性设计应覆盖参数错误、鉴权错误、限流和上游故障。

错误分级

状态码类型建议
400请求错误修正参数,避免盲目重试
401认证错误检查密钥、权限和过期时间
429限流错误降并发并启用指数退避
5xx服务错误短暂重试,失败后熔断降级

重试策略

  1. 仅对可重试错误执行自动重试。
  2. 使用指数退避并加入随机抖动。
  3. 设置最大重试次数,避免雪崩。

可观测字段

  • request_id
  • model
  • latency_ms
  • input_tokens
  • output_tokens