报错排查 · 429

429:要么你发太快,要么上游额度满了

429 是「现在不能处理」,重试通常有效。但如果是客户端在无退避地重试,只会让情况更糟。

两种 429

  • 本地限流:短时间并发过高(整页翻译、批量脚本、代理循环)触发平台速率限制;
  • 上游限流:渠道方的账号额度或 RPM 打满,重试同一分组可能持续失败,换分组或错峰更有效。

立刻能做的三件事

  1. 降并发:把并发从几十降到 2–5,多数 429 会立刻消失;
  2. 加退避:失败后等 1s → 2s → 4s 再重试,别用固定 100ms 死循环;
  3. 换分组:同一个模型在别的分组可能有独立额度。
指数退避示例python
import time, random

def call_with_retry(fn, tries=5):
    for i in range(tries):
        try:
            return fn()
        except Exception as e:
            if "429" not in str(e) or i == tries - 1:
                raise
            time.sleep(2 ** i + random.random())

常见坑

  • 重试风暴:10 个线程同时重试会瞬间把并发翻几倍,重试要加随机抖动;
  • 把 429 当失败丢弃:批量任务应该做断点续跑,而不是整批重来;
  • 流式请求更易触发:长连接占用并发槽位,长输出场景要预留余量。

常见问题

429 需要等多久再重试?

按 1s、2s、4s 递增并加随机抖动,最多重试 4–5 次;持续 429 说明并发或额度问题,调低并发或换分组。

429 会扣费吗?

被限流拒绝的请求没有产生模型输出,不扣费。