开发接入 · 超时与重试

超时和重试:默认值大多不适合生产

SDK 默认超时通常很长、重试次数很少,且对「已扣费但客户端超时」没有保护。生产环境要显式设置这两项。

默认值

SDK默认超时默认重试
openai-python600s2 次
openai-node10 分钟2 次

默认值偏保守,交互场景建议把超时压到 30–120s,让失败尽早暴露。

推荐配置

Pythonpython
client = OpenAI(
    api_key=KEY, base_url="https://hardysapi.com/v1",
    timeout=60.0,
    max_retries=3,
)
Nodejavascript
const client = new OpenAI({
  apiKey: KEY, baseURL: "https://hardysapi.com/v1",
  timeout: 60_000, maxRetries: 3,
});

超时重试会导致重复扣费吗

会。服务端已经生成并计费,客户端却因为超时重发,两次都算钱。 对成本敏感的任务:

  • 记录每次请求的幂等 key,重试前先查本地状态;
  • 长输出用流式,避免「等整段」导致超时;
  • 超时后先查用量记录,再决定是否重发。

哪些错误值得重试

429、500、502、503、504、连接错误值得重试;400、401、403、404 重试无意义,只会浪费时间和额度。

常见问题

SDK 默认重试几次?

openai-python 与 openai-node 默认重试 2 次,可用 max_retries / maxRetries 调整。

超时后重试会不会重复扣费?

如果服务端已完成生成,第一次请求会计费;重试会产生第二次计费,建议记录幂等 key 并在重试前核对。