DataFocus
简体中文
← 返回博客

DataFocus · 博客

如何估算自建 AI 分析平台的大模型 API 费用

DataFocus OT 可免费自建,但模型服务要另外付费。本文给出一份测算表:哪些操作会调用模型、每次消耗多少 token,以及模型降价后如何复核估算。

估算模型费用的办法是:只统计会调用模型的操作,用每次调用的 token 数乘以每月调用量,再按模型服务商的单价折算总额。DataFocus OT 本身可以免费自建,但它自己的成本说明也提到,服务器、模型调用和第三方服务仍需使用方承担,所以模型 API 是一项单独的开支。多数分析流量根本不需要模型,因此这笔费用比乍看起来更小,也更容易划定上限。本文给出一份测算表,你可以填入自己的调用量和服务商当前的价目表。

哪些环节会调用模型,哪些不会?

DataFocus OT 运行在你自己的服务器上,所用的大语言模型(LLM)服务由管理员配置。费用就出在这里:平台是你的,模型服务则是你指向哪一家就是哪一家。如果选用外部模型,产品简介建议先按你的数据政策确认哪些内容会发送给它。这件事最好在做预算之前定下来,因为它可能直接限制你能选哪些服务商来报价。

第二个影响估算的事实是,底层有真正的计算引擎(Flash 使用 Apache Doris,Heavy 使用 Trino 等),答案来自实际执行的 SQL,而不是语言模型估出来的数字。算术由引擎完成。模型参与时,只负责把语言翻译成查询,或围绕结果撰写说明。查询执行消耗的是你的服务器,不是 token。

Heavy 手册的“数据搜索”一章展示了这种分工。用户选择一张表,输入列名和关键词,例如“Sales by Region”,系统计算结果并选择图表。这条路径是结构化的搜索语句,手册中没有任何地方说它会调用模型。当输入不是标准的列名加关键词时,模型才会介入:系统请 FocusGPT 把输入解析成搜索语句,并弹出带有“还原”操作的提示。对于标准语句,FocusGPT 也会在后台解析,并可能替换原语句。所以即使是“标准”搜索,也可能产生少量模型流量,测算表里应该留一个很小的后台解析项,而不是默认为零。

清单里应该列入哪些工作负载?

列出人和系统接触模型的所有途径。下表前五行依据 Heavy 手册,最后一行是为你自行接入的任何 Agent 预留的占位项:

工作负载 模型的参与方式 什么决定调用量
数据搜索,标准语句 仅后台解析 每天的搜索次数
数据搜索,自由输入 解析成搜索语句 以整句话输入的搜索占比
智能问数(FocusGPT) 选表、查询,并回复输入是如何被解析的 每位用户每天的提问数
研究报告,标准 生成报告 每月报告数
研究报告,深度(兼容模式) 更深入的多步分析,耗时更长 每月深度报告数
外部 Agent 会话 Agent 自己的模型消耗多少算多少 每月会话数,每次会话的工具调用数

有两点需要说明。第一,按手册所述,智能问数通常需要一两分钟,页面也提示内容由 AI 生成;手册建议把重要结论拿到数据搜索中核对。这一步核对是一次标准搜索,至多增加那个很小的后台解析项,不会再产生一次完整的模型调用。第二,外部 Agent 的费用记在 Agent 自己的模型账户上,这个账户未必是管理员配置的那一个。要事先决定这笔开销算在本预算里,还是算在运行该 Agent 的团队名下,并保留这一行,免得被遗漏。

如何搭建 token 测算表?

每个工作负载一行,再加四列,数值都来自你自己的环境。

  1. 每月调用次数(C):来自使用日志;新部署则按人数估一个数。
  2. 每次调用的输入 token(I):问题、schema 或表上下文,以及各类指令。
  3. 每次调用的输出 token(O):解析出的语句或写出的回复。
  4. 每个任务的调用次数(K):单次解析为 1,多步报告和 Agent 循环则更高。

每一行的月成本为 C × K × (I × 输入单价 + O × 输出单价),单价取自服务商当前的价目表,按每 token 计。把各行相加即可。服务商通常对输入和输出分别定价,所以这两项要分成两列。

下面是一个示意性的、未实际运行的例子。假设一个 40 名分析师的团队,每天 200 次自由输入搜索,每月约 22 个工作日,则 C 为 4,400 次解析调用。如果一次解析调用约为 1,500 个输入 token 和 100 个输出 token(这是假设,不是实测),这一行每月就是 660 万个输入 token 和 44 万个输出 token。智能问数这一行可以设为 600 次提问,每次的上下文更大。深度报告这一行可以设为 30 份报告,K 取 8 步。请注意起主导作用的是什么:不是调用量大的解析行,而是 K 高、上下文长的行。在这类测算表里,通常是少数几份报告的消耗超过成千上万次解析搜索,所以应当先去测这些行。

在给出最终数字之前,加上三项余量:

  • 重试与失败:按固定的 10% 到 20% 留余量是常见的规划做法,有了日志之后再调整。
  • 上下文增长:加入的表越多,schema 越宽,每次调用的输入 token 也随之增加。
  • 使用量增长:新用户在最初几个月提问更多。给出低、预期、高三种情景,而不是一个单一数字。

价格走势和模型档位如何影响估算?

Epoch AI 在 2025 年 3 月发布的大模型推理价格趋势(英文)数据洞察发现,在固定性能水平下,推理价格每年下降的幅度从 9 倍到 900 倍不等,取决于所选的性能里程碑。这个范围很宽,而且衡量的是固定能力水平上的价格,不是某一家服务商的标价,所以不能当作你账单的预测。不过它支持两个规划习惯。

第一,不要把三年的预算锁定在今天的价目表上,续约或更换模型时重新给测算表报价。第二,既然价格下降发生在同一能力水平上,今天的低价档往往相当于一两年前高价档的水平。把一句话解析成搜索语句是个很窄的任务,所以在给每一行都配上最强模型之前,先测试较小、较便宜的模型能否胜任。更强的档位留给深度研究报告,那里多步分析才是重点。由于手册没有说明可以按功能选择模型,应把模型服务当作部署层面的选择,并在正式决定前,用一份真实问题的副本来测试取舍。

许多团队适用的一条决策规则是:每一行都先用低价档,只有当评审人否决了某一行的输出时才升级,并记录原因。

如何监控支出并复核估算?

估算只有与实际数据对照才有用。

  • 用服务商的用量面板或按 API key 的报表查看每天的 token 数。给分析平台单独配一个 key,避免它的支出和其他项目混在一起。
  • 第一个月结束后,把实际的每次调用 token 数与你假设的 I 和 O 对比,并修正测算表。
  • 按月预算的某个比例设置支出告警;如果服务商支持,再设一个硬性上限。
  • 查看自由输入与标准搜索的占比。如果很多用户习惯输入整句话,可以做一次简短培训,教大家用标准的列名加关键词搜索,这样既减少解析调用,得到的结果也可以直接核验。
  • 每季度重新做一次价格对比,以上述趋势作为复查的理由。

这种方法的局限

这份测算表假设你能从服务商那里读到 token 数。如果多个团队共用一个模型网关,要归属到各团队就需要额外的工作。外部 Agent 是最难估的一行,因为它的循环取决于 Agent 自身的设计,所以把这一行当作一个区间,并优先盯住它。最后,手册没有给出任何功能的每次调用 token 数,因此上文所有的 I 和 O 数值都需要你自己测量。

下一步

两个版本都可以免费下载和自建;下载页列出了它们,各版本的发行说明列出了系统要求和支持的平台。DataFocus OT 产品简介介绍了自建模式和底层引擎。