Jeden konteneryzowany AI Server działa na maszynie wirtualnej w chmurze lub dowolnym hoście Docker, całkowicie konfigurowany przez zmienne środowiskowe, z sondami zdrowia na poziomie orkiestratora i logami JSON <a href="#ref-1">[1]</a>. Wdrożenia są niezmienne i powtarzalne: obraz jest artefaktem, a zamontowany wolumen przechowuje stan. Każda regulacja to zmienna środowiskowa, więc nic nie jest wbudowane w obraz, a <code>/livez</code> i <code>/readyz</code> oznaczają, że load balancer lub orkiestrator zarządza tym poprawnie, zamiast zgadywać <a href="#ref-2">[2]</a>.

Obraz jest artefaktem, wolumen przechowuje stan

Budowa obrazu kontenera jest odtwarzalna z repozytorium, a stan przypisany do wdrożenia znajduje się na wolumenie, a nie wewnątrz obrazu <a href="#ref-2">[2]</a>. To rozdzielenie sprawia, że przebudowa jest bezpieczna: wymieniasz obraz bez dotykania magazynu modeli, kluczy czy stanu licencji. Strukturalne logi JSON (<code>AISUITE_LOG_JSON=1</code>) trafiają bezpośrednio do kolektora logów.

Gotowy na sondy dla orkiestratorów

<code>/livez</code> informuje, że proces działa; <code>/readyz</code> informuje, że jest gotowy do obsługi ruchu i przełącza się na <code>503</code> podczas opróżniania <a href="#ref-2">[2]</a>. Podłącz sondę żywotności do <code>/livez</code>, sondę gotowości do <code>/readyz</code> i ustaw okres łaski zakończenia na poziomie równym lub wyższym niż budżety opróżniania i zamykania, a aktualizacje ciągłe staną się bezprzerwowe bez dodatkowych narzędzi.

Licencjonowany i z kluczem przed uruchomieniem serwisu

Ponieważ kontener wiąże adres inny niż loopback, co oznacza serwowanie sieciowe, demon zamyka się awaryjnie bez posiadania uprawnień Pro oraz co najmniej jednego klucza API na woluminie <a href="#ref-3">[3]</a>. Artefakt licencji to plik na instalację tworzony przez licencjonowany instalator, a nie coś do ręcznego tworzenia; instalacja Free jest z założenia przeznaczona tylko do loopback.

Podstawowy element farmy

Farma gateway to N takich kontenerów za jednym gatewayem, więc ten sam obraz skonfigurowany przez env skaluje się od pojedynczego punktu końcowego VPC do floty z równoważeniem obciążenia <a href="#ref-1">[1]</a>. Kontener, który dziś obsługuje Twoje mobilne i przeglądarkowe interfejsy, jest workerem, którego replikujesz jutro.