DataFocus · 博客
OT Flash 用哪个大模型?如何管控模型成本与数据出口
OT Flash 没有内置指定模型,由管理员配置大模型服务,这个选择决定哪些数据会离开你的网络,也决定模型账单的样子。本文介绍管理界面、数据出口决策和每月复盘的习惯。
OT Flash 不自带固定的模型。根据 OT Flash r57 用户手册(英文),管理员配置好大语言模型服务之后,才能使用本体 Agent,所以用哪个模型、模型跑在哪里,由你决定。这个选择同时决定了标题里的两个问题:哪些数据会离开你的网络(取决于所配置的服务会收到什么),以及模型要花多少钱(取决于该服务按 token 如何计费)。同一份手册还介绍了一个管理界面“设备授权”(Device authorization),显示 AI 模型每日和每月的 token 消耗,这给了你一个每月可以复盘的数字。本文介绍这些设置在哪里,以及如何把它们变成成本和数据出口的决策。本文不推荐任何厂商或模型,因为资料中没有点名。
OT Flash 内置模型吗?
文档没有这样说。手册只给出一个前提:管理员在系统中配置好 LLM 服务之后,本体 Agent 才能工作。手册还提到,一次回答通常需要几十秒,复杂问题更久。产品简介从更高的层面说了同样的事:DataFocus OT 是自建部署的,大语言模型服务由管理员配置,使用外部模型时,客户应按自己的数据政策确认发送给模型的内容(DataFocus OT 产品简介,英文)。
对决策者来说,这意味着两点:
- 已发布的资料没有把 Flash 绑定到某个厂商或模型,本文也不会。把模型当作你要选的组件,而不是随产品得到的功能。
- “自建”说的是应用跑在哪里,不等于模型跑在哪里。如果你配置的服务由第三方托管,那么应用在本地,模型调用则不在本地。
在哪里配置?
在 r57 手册中,系统级设置位于 Admin > Configure。它的子标签包括 Base Configure、Prompt Management、Custom Ai、Functional cropping、SSO 和 Email Template 等。手册的标签页列表没有说明哪个子标签页放置 LLM 服务,所以请先在你自己的实例上查看 Custom Ai。
手册列出了预置角色,其中 SYSTEM_MANAGER 被描述为负责全局配置以及用户和角色管理。所以实际的第一步,是确定由哪位具名人员持有该角色来管理模型设置。本文不复述任何模型服务字段。请到手册第 13 章阅读你所用版本的说明,并以你自己实例上看到的为准。
首次配置的简要步骤:
- 在任何人打开模型设置之前,先确定数据出口等级(见下一节)。
- 由持有 SYSTEM_MANAGER 角色的管理员在 Admin > Configure 下的系统设置中配置 LLM 服务(先从 Custom Ai 看起)。
- 打开本体工作台,向 Agent 提一个关于非敏感样例数据的问题。如果 Agent 能正常工作,说明服务可达;如果不能,先检查手册写明的前提条件(已配置 LLM 服务)。
- 打开 Admin > Device authorization,记下每日和每月的 token 数字,作为起始参考点。
如何决定哪些数据可以出去?
DataFocus 网站上的部署清单列出了本地部署前需要确定的事项:使用范围、操作系统与架构、容量、数据授权、模型选择、数据出口和备份归属。模型选择和数据出口是两条独立的条目,这提醒我们它们是两个独立的决策。一个模型可能很便宜,但你的数据不能用;也可能数据能用,但价格很高。
要把数据出口的问题说具体,先看 Agent 能看到什么。手册说,本体 Agent 引用的数据来自绑定到该本体的数据表和文档,而“查看处理详情”(View processing details)链接会显示 Agent 查询了哪些数据、调用了哪些工具。Agent 也会读取本体的文档。这些都是可能进入模型请求的材料。手册没有公布每次请求的具体内容,所以稳妥的理解是:绑定到本体的任何内容,都可能被模型看到。
下面是可作为策略起点的数据出口等级(示意,并非 DataFocus 功能):
| 等级 | 含义 | 适用情况 |
|---|---|---|
| A:模型在你的网络内 | 所配置的服务运行在你控制的基础设施上 | 本体的数据表或文档中有按政策必须留在本地的数据 |
| B:外部模型,限定本体范围 | 使用第三方服务,但只有用你已批准对外的数据构建的本体才可使用 | 数据敏感度不一;你可以按业务主题拆分本体 |
| C:外部模型,通用使用 | 第三方服务,本体内容范围较广 | 主要是公开或低敏感度的材料 |
本体是围绕一个业务主题的知识空间(数据表、文档、指标),所以按主题拆分,就为这些等级提供了天然的划分单位。这是根据手册对本体的定义得出的设计建议,不是文档中记载的数据出口控制功能。
如果你通过 MCP 接入外部 Agent,还有第二条数据出口路径需要审查。在这条路径上,由你选择的客户端(产品简介提到了 Claude Code 等客户端)位于数据前面。查询结果以依据行的形式返回给该客户端,客户端背后的模型能看到客户端放进其上下文的所有内容。手册把该客户端可访问的范围限定为外部 Agent 设置、具体的 OAuth 授权和资源编辑权限三者的交集,所以可触达的数据受权限约束。这些数据最终去向哪里,仍然由你决定:网站上的接入指引要求检查数据去向、认证、令牌范围和撤销。手册还建议只记录必要的关联数据,不要记录令牌或完整的敏感内容。
如何监控 token 消耗?
手册中说,Admin > Device authorization 显示设备许可信息,以及 AI 模型每日和每月的 token 消耗。手册没有介绍许可等级或价格,本文也不介绍。
有了每日和每月的数字,你可以这样用:
- 在固定日期记录月度数字,逐月比较。
- 围绕你能说出名字的事件查看每日序列:某个新本体上线、某个团队开始使用 Agent、有人开始生成脚本。
- 把这个数字与模型提供方自己的账单或用量报告对照。手册只说明了这个界面显示什么,没有说明数字如何计算,也没有说明是否与提供方的计费单位一致,所以涉及金额以账单为准,涉及趋势以界面为准。
哪些功能会用到所配置的模型?手册写明了本体 Agent 的前提条件,还介绍了产品内的 AI 辅助操作,例如根据描述起草执行脚本,以及生成或修改控制面板草稿。资料没有说明其中哪些会计入 token 数字,所以请先在你的实例上确认,再假定这个界面涵盖所有 AI 功能。如果你还通过 MCP 运行外部客户端,该客户端自己的模型用量由客户端模型所在的地方计费,不在这个界面之内。
下面是一份假设的月度复盘表(示意,未实际运行,也没有真实数字):
| 月份 | 当月 token(界面) | 提供方账单 | 值得注意的变化 | 负责人备注 |
|---|---|---|---|---|
| (填写) | (来自 Device authorization) | (来自提供方) | (新本体、新团队等) | (接受 / 调查) |
模型价格下降,这个问题就不存在了吗?
部分是,但证据有限。斯坦福 HAI 的 2025 年 AI Index 报告(英文)指出,达到 GPT-3.5 水平的系统,其推理成本在 2022 年 11 月到 2024 年 10 月之间下降了 280 多倍。这说的是某一个能力水平在某一段时期内的情况。它无法预测你明年选的模型的价格,也没有说到用量:更多人问更多问题时,用量会上升。单价下降与提问次数上升,可能让账单朝相反方向变化,所以即使价格下降,也值得保留每月复盘。
还有哪些成本由你承担?
DataFocus 网站对此说得很直接:免费自建仍然需要基础设施、模型 API、第三方服务和运维支持,“服务器、模型调用和第三方服务由你付费”。下载页(英文)补充说,社区版许可不包含服务器、模型调用或运维。所以模型费用只是你要承担的若干项之一。此外还有运行 Flash 的服务器,以及负责运维的人。资料中没有给出容量规划数据,本文也不给。
这种做法不够用的情形
- 如果你的政策要求证明每次模型请求究竟包含什么,已发布的资料没有介绍模型服务的逐请求内容记录。在做决定之前,请通过支持工单询问 DataFocus,或在你的实例上自行验证。
- 如果你需要一张涵盖应用和模型的统一对账账单,Device authorization 的数字是用量视图,不是账单。
- 如果你想要厂商推荐,这里没有。资料中没有点名任何经过认证或内置的模型。
下一步
阅读 OT Flash r57 用户手册(英文)的 Admin 章节,了解你所用版本中的 Configure 和 Device authorization 标签页,然后在第一个本体上线之前,与你的安全负责人一起确定数据出口等级。产品简介(英文)用一页纸介绍了自建部署模式。