架構
由始至終本地部署
AI Server 於您控制的硬件(本地 GPU、私有雲或離網實驗室)上託管生成式模型。AI Client 運行於每部工作站並透過您的網絡連接 AI Server。AI Admin Console 為 IT 提供統一的授權、註冊、政策及審計管理介面。所有組件運行時均毋須連接公網。
比較
雲端 AI 對比本地 AI 套件
| 關注重點 | 公共雲端 LLM | 本地 AI 套件 |
|---|---|---|
| 您的提示流向 | 傳送至供應商的 API。 | 傳送至您網絡內的 AI Server。 |
| 您的文件流向 | 上載至供應商(或他們管理的向量資料庫)。 | 留在您的儲存裝置;檢索本地進行。 |
| 資料駐留地 | 視乎供應商所在地區 — 每份合約都要重新確認。 | 就在您部署伺服器的位置。就是這樣。 |
| 按字元計費 | 按呼叫計費,隨使用量擴大。 | 硬件資本支出;邊際使用成本近乎零。 |
| 離網或離線使用 | 無法做到。 | 預設支援。 |
| 審計及合規證據 | 仰賴供應商報告。 | 日誌及政策皆存於您的 IT 環境。 |
部署及合規
為受規管環境而設
可在哪裡運行
- 本地 GPU 伺服器(Linux 或 Windows)。
- 您的私有雲租用戶 — AWS、Azure、GCP 或任何其他。
- 離網或離線實驗室(運行時毋須網絡)。
客戶選擇它的原因
- 資料駐留:資料實際留在您部署伺服器的位置。
- 審計:日誌存於您的 IT 環境,而非供應商處。
- 成本:可預測的硬件資本支出,而非按字元計費。
- 客製化模型:可運行我們尚未推出的開放權重模型。
讓我們詳細討論您的部署
由免費一週試點衝刺開始。我們將在範圍確認電話中梳理您的硬件、安全與合規限制,隨後在週五交付可運作的成果。