企业接入大模型 API 前，先算明白这个成本公式

阻碍落地的并非技术

从技术角度看，把大模型接入现有系统并不困难：设置一个服务地址和一把密钥，SDK 调用代码基本无须改动。真正阻碍落地的往往是预算问题——当预算部门询问「这个月要花多少」时，技术团队无法提供一个可供签字的数字。

这正是企业与个人开发者的区别。个人通常选择「先跑起来，花多少算多少」；企业则要求开销结构具备可预估、可归因和有上限的特征。因此，只有在编写第一行调用代码前先算清成本模型，后续接入工作才有实际意义。

一、将成本转化为公式

大模型 API 的计费依据是 token，而不是请求次数。常见的预算估算错误，是直接按照「每天多少次调用」计算，最终与实际账单相差好几倍。正确的方法应当拆解单次调用：

单次成本 = 输入 token 数 × 输入单价 + 输出 token 数 × 输出单价
月度成本 = 单次成本 × 日均调用量 × 30

三个变量都必须来自真实数据，不能凭主观猜测：

• 输入 token：企业场景的输入通常远大于个人场景。带上系统提示词、检索到的文档片段、多轮历史，一次「简单问答」的输入常常是几千 token。
• 输出 token：受到 max_tokens 限制，是唯一可以直接设置上限的变量。
• 日均调用量：内部工具类按照「人数 × 人均日使用次数」估算，客服类则按照工单量估算。

举个内部知识库助手的例子：系统提示 500 token + 检索片段 2500 token + 历史 1000 token = 4000 输入 token，输出限制 500 token。200 人每天各用 10 次，就是一天 2000 次调用、800 万输入 token。这个量级和「200 人偶尔问几句」的直觉差得很远，但它才是应该写进预算表的数字。

二、选择按量计费还是预付额度

确定大致量级后，选择付费方式便有了依据。

按量计费更适用于验证阶段：在调用量不确定时，用多少扣多少，不会产生沉没成本。但其代价是财务难以提前排期，每月账单存在波动，还需要按月对账。

预付额度（许多平台称为资源包）主要解决三个企业特有问题：预算可以一次完成审批，不必每月重复申请；采购口径能够统一，用一份合同覆盖多个项目；额度存在封顶，可自然限制失控风险。

判断时可以采用机械标准：若连续两三个月的实际用量波动保持在 30% 以内，就说明已经进入可预估区间，此时转为预付比按量更省心；如果仍在大幅波动，应继续使用按量方式，不必急于锁定。

三、接入阶段将 usage 写入日志

接入本身是最简单的一步。工程实践中必须坚持把服务地址和密钥提取为配置，不能写死，以jiekou.vip为例：

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["LLM_API_KEY"],
    base_url=os.environ["https://api.highwayapi.ai/openai"],
)

resp = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "你好"}],
    max_tokens=500,
)
print(resp.usage)

其中有一个细节需要单独说明：resp.usage 是开展成本治理的起点。它会返回该次调用实际消耗的输入和输出 token；只有将这些数据写入日志，第一节的估算公式才能依据实测结果进行校准。很多团队在接入时仅打印 content、却把 usage 舍弃，直到月底账单超出预算，才发现没有留下任何可用于复盘的数据。

排查错误时，可重点关注几个高频返回码：遇到404，应先确认服务地址尾部是否多写或漏写了 /v1（不同 SDK 的路径拼接方式并不相同，最快的办法是核对最终请求的完整 URL）；401 通常表示密钥没有携带或填写错误；429 代表触发频率限制，需要降低并发后再重试。

四、从第一天起按项目拆分密钥

仅知道「花了多少」并不足够，还必须明确「谁花的」。实现这一点的成本很低——接入时分别按项目和环境申请独立密钥，用量自然就能分开统计：

• 每条业务线配置一把密钥，使部门与用量、成本直接对应。
• 将测试与生产分开，防止压测流量混入生产账单。
• 某把密钥泄露或项目下线时，可以单独吊销，不会影响其他业务线。

第一天实施几乎没有成本；若等十几个服务共用一把后再拆，就必须逐个修改配置并重新发布。

总结

企业接入大模型 API，应遵循「先算账、再选付费方式、最后写代码」的顺序：使用 token 公式估算真实量级，根据用量稳定程度在按量与预付之间选择；接入时把地址和密钥提取为配置，并把 usage 写入日志，再按项目拆分密钥。技术接入本身只有几行代码，真正的前提是把成本转化为可预估、可归因的数据。