← 全部文章

公司 发布于 2026-06-15 · 阅读 5 分钟

我们为何以可安装的二进制文件交付 AI,而非云端 SaaS

本地推理、客户掌控的审计,以及一套早已存在的采购流程。Software Tailor 的 AI 产品采用桌面安装程序而非我们云端租户的三个结构性原因。

AI Suite 系列中的大多数应用程序安装于用户自己的机器上。没有租户。没有用以闸控推理引擎访问的云端登录。桌面应用与本地的 aisuite-server 进程通信,后者再与设备上运行的模型,或与客户网络内由客户掌控的 AI Server 通信。这一选择 —— 桌面安装程序而非 SaaS —— 是经过深思熟虑的,其原因值得记录。

原因一:受监管的买方无法把生产 prompt 放进别人的云

EU AI Act 自 2024 年生效以来,已将相当一部分企业工作流归类为「高风险」,并对部署者施加记录留存、人工监督与数据处理义务 [1]。OECD 成员国普遍存在等效或相似的框架 [2],而美国联邦机构在采购 AI 系统时依据 NIST AI Risk Management Framework 运作 [3]。这些框架均未禁止云端 AI;它们要求部署者能够即时地、按请求地演示什么数据被发往何处、什么数据被返回。

在实务中,这一要求与当今云端 LLM API 的运作方式相冲突。一名医药合规负责人无法从第三方 SaaS 中拉取按 prompt 维度的审计轨迹 —— 在处理患者标识符的工作流上,即便该 SaaS 在合同上符合 GDPR 亦然。他们需要 prompt 与响应永不离开自己拥有的网络。要给到这一保证,最干净的方式是把 AI 作为客户在自身边界内运行的二进制文件来交付 —— 这正是我们所做的。

这并非假想的买家。自 2007 年以来,我们交付的客户群体包括六家来自医药、金融、政府、法律、国防与能源行业的 Fortune Global 500 机构 [4]。这些行业中每一个,都至少有一项工作流,其「推理发生在哪里?」的答案决定了采购对话是否能开启。

原因二:可安装的二进制文件契合企业实际购买软件的方式

桌面应用的购买流程在大型 IT 组织内早已成熟。应用被打包,经 SCCM、Intune 或 Jamf 分发,与 Microsoft Office 受同一套组策略管辖,在笔记本停用时被卸除。采购、安全审查与终端用户计算各自都有数十年历史的处理流程。AI Suite 直接套入其中。

云端 SaaS 与之相比,需要一套并行流程:基于租户的供应商风险评审、身份联合对话、对供应商态势的持续审计,以及在出问题时关于谁的义务覆盖什么的持续磋商。这对某些类型的软件有用,但与我们客户正在构建的 AI 工作流并不契合。

我们交付的是向客户自有身份提供商进行身份验证的可安装应用 —— 通过 OpenID Connect 接入 Microsoft Entra ID 或 Google Workspace —— 在我们的服务器上,除了组织名册及管理操作的审计日志之外不存储任何东西,从而把采购对话放进它早已熟悉如何处理的盒子里。

原因三:自 2007 年以来零项目失败的纪录,取决于不依赖别人的可用性

我们已交付定制软件十九年,自 2007 年以来保持零项目失败的纪录 [4]。这一纪录之所以存在,是因为团队掌控交付的每一层:代码、构建、测试、部署制品。一旦我们让某个客户的生产工作流依赖于另一家公司云端的持续可用,这一纪录就不再由我们来守护。

云端 AI 供应商会宕机。他们会限流。他们会调整定价。他们会下线模型。他们会下线整套 API。我们服务的医药与国防客户,不能让长达一年的合规案因他们不拥有的模型端点被迁移而停滞。因此我们不把他们放在那种端点上。模型住在客户机器上,推理发生在客户机器上,而我们基础设施上唯一存在的,是他们用以管理自身部署的轻量管理面。

这对评估意味着什么

若你是合规负责人、CIO 或正在为企业部署评估本地 AI 的 CTO,相关问题与云端 SaaS 评估并不相同:

  • 推理发生在哪里?在用户设备上,或在客户掌控的服务器上,而非在我们这里。
  • 什么离开边界?仅有组织名册与管理操作。没有 prompt,没有响应,没有文档内容。
  • 审计轨迹是什么?无内容的 JSONL,本地存储,可导出。模型从未看见未被指令处理的内容,审计行则完全不见任何内容。
  • 当供应商消失时会怎样?客户已安装的二进制文件继续运行。他们登记的本地 AI Server 继续服务。无需重新换平台。

这正是我们构建 AI Admin ConsoleLocal AI Suite 所要干净回答的四个问题。关于 EU AI Act 合规与本地部署的文章对监管层面的展开更为详尽。

参考资料

  1. European Commission. "AI Act — Regulatory framework on AI." digital-strategy.ec.europa.eu. 访问于 2026-06-15。
  2. OECD AI Policy Observatory. "National AI policies." oecd.ai. 访问于 2026-06-15。
  3. NIST. "AI Risk Management Framework (AI RMF 1.0)." nist.gov/itl/ai-risk-management-framework. 访问于 2026-06-15。
  4. Software Tailor. "Past clients." softwaretailor.com/past-clients.htm. 访问于 2026-06-15。

相关文章

在真实工作负载上评估同一思路。

免费 1 周试点会走完一项客户的真实工作 —— 本地推理、客户掌控的身份、客户掌控的审计。

订阅产品更新

全新免费 AI 产品、重大更新,以及仅在本网站发布的新版本。绝无垃圾信息。