一個容器化的 AI Server 可在雲端虛擬機或任何 Docker 主機上運行,完全由環境變數配置,具備編排器級別的健康探針及 JSON 日誌 <a href="#ref-1">[1]</a>部署是不可變且可重複的:映像檔是工件,掛載的卷承載狀態。每個調節器都是環境變數,因此映像檔中不包含任何固定內容,且 <code>/livez</code> 和 <code>/readyz</code> 代表負載均衡器或編排器能正確管理,而非猜測 <a href="#ref-2">[2]</a>

映像檔是工件,卷是狀態

容器映像檔的構建可從代碼庫重現,每次部署的狀態存放於卷中,而非映像檔內 <a href="#ref-2">[2]</a>。這種分離確保重建安全:您可以替換映像檔而不影響模型存儲、金鑰或授權狀態。結構化 JSON 日誌(<code>AISUITE_LOG_JSON=1</code>)可直接輸出至日誌收集器。

為編排器準備的探針

<code>/livez</code> 報告進程存活;<code>/readyz</code> 報告準備好接收流量,並在排空期間切換為 <code>503</code> <a href="#ref-2">[2]</a>。將存活探針連接至 <code>/livez</code>,就緒探針連接至 <code>/readyz</code>,並設定終止寬限期不低於排空及關閉預算,滾動更新即可實現零停機,無需額外工具。

必須先獲授權並輸入序號後方可提供服務

因為容器綁定了非回環地址,屬於網絡服務,且守護程序若沒有同時具備專業版權限及卷宗中至少一個 API 金鑰,將會失敗關閉 <a href="#ref-3">[3]</a>授權安裝會產生的授權檔案是每次安裝專用的檔案,非手動編寫;免費安裝設計上只允許回環地址使用。

叢集的基本構件

閘道叢集是多個此類容器(N 個)置於同一閘道後方,因此同一個環境配置的映像可從單一 VPC 端點擴展至負載平衡的叢集 <a href="#ref-1">[1]</a>今日為您的手機及瀏覽器端提供服務的容器,就是您明日複製的工作節點。