提示词 · 成本

先会估算 token,才能控制成本

中文大约 1 个汉字 ≈ 0.6–1 个 token,英文大约 4 个字符 ≈ 1 token。粗估误差在 20% 以内,足够做预算。

三种估算精度

方法精度适用
按字符数 ÷ 3(中文)粗快速心算
tiktoken(GPT 系)准预算与压测
接口返回的 usage最准对账

不同厂商的 tokenizer 不同,跨模型估算只能取近似值;对账以 usage 字段为准。

成本计算

cost.pypython
# 单价来自 /models,单位:元 / 百万 token
in_price, out_price = 2.0, 10.0
in_tok, out_tok = 1500, 500

cost = (in_tok * in_price + out_tok * out_price) / 1_000_000
print(f"单次 {cost:.4f} 元")
print(f"10 万次 {cost * 100_000:.0f} 元")

省 token 的六个手段

  1. 去掉无关上下文:历史对话只留必要轮次;
  2. 精简提示词:删掉不解决具体问题的约束;
  3. 输出结构化且短:用 JSON 字段限制长度,比自由文本短得多;
  4. 提示词缓存:固定前缀重复使用时成本可降一个量级;
  5. 结果缓存:相同输入直接返回上次结果(注意时效);
  6. 分档模型:简单任务换轻量档,单价比优化 token 更有效。
真实账单里,输出 token 单价通常是输入的 3–5 倍。 「让模型少说废话」往往比压缩输入更省钱。

常见问题

中文一个字算几个 token?

大约 0.6–1 个 token,取决于模型的分词器;精确计数请用对应厂商的工具或看接口返回的 usage。

减少输入和减少输出哪个更省?

通常减少输出更省,因为输出单价一般是输入的 3–5 倍;两者都要做。