报错排查 · 502 / 504

502 / 504:请求没走完全程

502 是上游返回了非法响应,504 是等太久没等到响应。两者都指向链路,而不是你的参数。

区别

状态码含义常见原因
502网关收到上游的坏响应上游进程重启、协议不匹配、反代配置错误
504网关等待超时长输出、推理慢、上游排队

自建反代时的高频原因

  • proxy_buffering on:SSE 流式输出会被缓冲,表现为「一直不返回,最后 504」;
  • proxy_read_timeout 默认 60s:长推理模型容易超时,调到 300s 以上;
  • HTTP/2 与 SSE 的兼容问题:部分客户端在 h2 下会断开,改回 h1 试试。
nginx 关键三行nginx
proxy_buffering off;
proxy_read_timeout 300s;
proxy_http_version 1.1;

客户端侧

把客户端超时从默认 30s 调到 120s 以上;长文档处理建议改用流式,避免整段等待。

持续出现怎么办

直连 https://api.hardysapi.com(灰云直连,不经 CDN)对比一次: 如果直连正常、走 CDN 异常,就是链路问题;两边都异常则看上游状态。

常见问题

504 是模型太慢吗?

可能是。长输出、长推理容易触发网关超时;改用流式或把任务拆小通常能规避。

502 和 503 有什么区别?

502 是上游返回了坏响应(协议/进程问题),503 是明确告诉你当前没有可用渠道。