今天我們推出 AI Server v2 — AI Suite 背後共享引擎的全新重建版本,取代舊有僅限 Windows 的版本。它將電腦變成 一個共享且私人的 AI 運行時環境:承載、下載及運行所有 AI Suite 應用程式使用的 AI 模型——只需下載一次模型,使用同一個函式庫和一組 API 金鑰,隨處可用。
功能說明
每個 AI Suite 應用程式——Chatbot、Translate、Notepad、PDF Reader 及其他——都將其 AI 運算卸載至 AI Server,而非內置自己的引擎。因此模型只需下載 一次 ,並為所有應用程式提供服務,且資料不會離開您的裝置。您可選擇只於當前會話運行,或安裝為背景 Windows 服務 ,即使登出或重啟後仍持續提供服務。
您可從一個地方管理所有設定: 模型 下載及管理模型的頁面 — 並可將整個模型庫移至另一個磁碟,無需重新下載 — 一個 供應商 連接雲端 AI 並使用您自己的金鑰的頁面,實時 連接、活躍請求、使用情況 及 日誌 頁面,讓您能準確掌握所有動態。底層架構整合多個引擎於單一 API,並根據模型選擇合適引擎,兼容 OpenAI (/v1/*) 及 Ollama (/api/*) API,因此第三方工具如 Open WebUI 或簡單的 curl 指令碼亦能運作。
v2 新功能
- 共用執行環境。 單一模型下載及單一庫,供所有 AI Suite 應用程式使用 — 無需重複下載數 GB 的資料。
- 運行於會話期間,或作為服務運行。 在背景持續運行並跨重啟保持服務(專業版),或只在工作時運行。
- 在一個控制台中管理所有。 模型、雲端供應商及即時連線、活躍請求、使用情況及日誌。
- 移動你的資料庫,無需重新下載。 安全地將整個模型庫遷移至另一個磁碟,並在切換前進行驗證。
- 設計上保障私隱。 伺服器存取金鑰以安全雜湊形式儲存;任何已配置的第三方供應商憑證必須可恢復,並獲得獨立保護。使用報告不含內容,且可選的產品遙測遵循應用程式設定及私隱政策中的地區/平台預設。
- 流暢升級。 現有設定會自動繼承,且先前連接至舊版 AI Server 的應用程式繼續運作。
- 支援16種語言及無頭命令列介面 適合高級用戶及自動化。
免費、專業及受管制版本
AI Server 提供三個版本,免費版本身已非常實用:
- 免費版 — 本地 AI Server。 運行於 此電腦 (迴環介面),為每個 AI Suite 應用程式提供無限本地 AI,永久免費。管理模型及供應商,並遷移你的資料庫。
- 專業個人版 — 網絡 AI Server。 將你的本地模型提供給 其他裝置 在您的網絡上,選擇端口和顯示名稱,並以背景服務方式運行 AI Server。
- 專業商業版 — 受管控的 AI Server。 包含個人版的所有功能,外加完整的 治理 套件 — API 金鑰、每金鑰速率限制、使用配額與預算、內容過濾、簽署審計匯出、模型生命週期政策及區域合規性 — 多主機 AI Gateway 用於跨伺服器負載平衡,以及 組織註冊 可從 AI Admin Console 進行集中多裝置管理。
守護程序是網絡服務的記錄門戶,因此邊界由伺服器本身強制執行,而不僅是用戶介面。免費應用程式所做的一切仍然免費;專業版則是為了超越此機器的服務及治理該流量。
本地 AI 伺服器的重要性
人們最想保密的 AI 工作往往正是無法上傳至雲端的內容 — 內部文件、客戶資料、尚未成形的構思。在本地模型路徑上,AI Server 將模型帶到您的數據:提示和回應保留在您的基礎設施內,伺服器存取金鑰經過雜湊處理,使用記錄不包含提示和回應內容。選擇已配置的雲端供應商會建立通往該供應商的不同數據路徑。這使本地路徑適合注重私隱的家庭、提示和回應不得離開受管硬件的受規管工作流程,以及離線或隔離網絡環境。這是 Software Tailor 所打造一切產品背後相同的本地私隱優先原則。 <a href="#ref-1">[1]</a>.
它也是 AI Suite 其餘部分的基礎:不帶引擎的輕量應用仍可透過卸載至共享伺服器運行完整本地 AI — 一次下載即可驅動整個桌面。
立即下載
AI Server v2 現已於 Microsoft Store 提供 Windows 免費下載,當您想為網絡提供服務並新增治理功能時,可升級至專業版 <a href="#ref-2">[2]</a>同時附帶無頭 CLI,文件中亦提供快速入門、API 用戶端、Kubernetes、授權及操作指南 <a href="#ref-3">[3]</a>完整功能導覽請參閱<a href="../ai-server.htm">產品頁面</a>。