把模型名写死在代码里,换一次就要发版。把「场景 → 模型候选列表」做成配置,降级和换档都变成改配置。
routes: classify: [qwen-turbo, deepseek-v4-flash] chat: [claude-sonnet-4-5, gpt-5.5, deepseek-v4-pro] code: [claude-sonnet-4-5, gpt-5.5] long-doc: [claude-sonnet-4-5, gemini-3-flash]
def ask(scene, msgs): for m in ROUTES[scene]: try: return call(m, msgs) except Retryable as e: log.warning("%s 失败,换下一个:%s", m, e) raise AllFailed(scene)
会有差异。用结构化输出约束格式,并对关键字段做校验,必要时只允许同档位模型互相降级。
404、503 以及持续的 429 可以切换;400、401、403 是请求本身的问题,换模型无效。