Eén gecontaineriseerde AI Server draait op een cloud-VM of elke Docker-host, volledig geconfigureerd via omgevingsvariabelen, met orchestrator-waardige health probes en JSON-logs <a href="#ref-1">[1]</a>. Deployments zijn onveranderlijk en herhaalbaar: de image is het artefact en een aangekoppeld volume draagt de staat. Elke instelling is een omgevingsvariabele, dus niets is ingebakken in de image, en <code>/livez</code> en <code>/readyz</code> zorgen ervoor dat een load balancer of orchestrator het correct beheert in plaats van te gokken <a href="#ref-2">[2]</a>.
De image is het artefact, het volume is de staat
De container image build is reproduceerbaar vanuit de repository, en per deployment staat leeft op een volume in plaats van in de image <a href="#ref-2">[2]</a>. Die scheiding maakt een rebuild veilig: je vervangt de image zonder het modelarchief, sleutels of licentiestatus aan te raken. Gestructureerde JSON-logs (<code>AISUITE_LOG_JSON=1</code>) gaan rechtstreeks naar een logcollector.
Probe-klaar voor orchestrators
<code>/livez</code> meldt dat het proces leeft; <code>/readyz</code> meldt dat het klaar is om verkeer te ontvangen en schakelt naar <code>503</code> tijdens het afbouwen <a href="#ref-2">[2]</a>. Verbind de liveness probe met <code>/livez</code>, de readiness probe met <code>/readyz</code>, en stel een termination grace period in die gelijk is aan of langer dan de drain- en shutdown-budgetten, en rolling updates worden zero-downtime zonder extra tooling.
Gelicenseerd en geactiveerd voordat het dient
Omdat de container een niet-loopback adres bindt, is dat netwerkdienstverlening, en de daemon sluit geforceerd zonder zowel een Pro-recht als ten minste één API-sleutel op het volume <a href="#ref-3">[3]</a>. Een licentie-artifact is een per-installatiebestand geschreven door een gelicentieerde installatie, niet iets om handmatig te maken; een Gratis installatie is van ontwerp loopback-only.
De bouwsteen van een farm
Een gateway-farm bestaat uit N van deze containers achter één gateway, dus dezelfde omgevingsgeconfigureerde image schaalt van een enkele VPC-eindpunt tot een load-balanced vloot <a href="#ref-1">[1]</a>. De container die vandaag je mobiele en browser clients bedient, is de worker die je morgen repliceert.