En containeriserad AI Server körs på en moln-VM eller vilken Docker-värd som helst, helt konfigurerad via miljövariabler, med orkestrator-klassade hälsoprober och JSON-loggar <a href="#ref-1">[1]</a>. Distributioner är oföränderliga och upprepningsbara: imagen är artefakten och en monterad volym bär tillståndet. Varje inställning är en miljövariabel, så inget är inbakat i imagen, och <code>/livez</code> och <code>/readyz</code> innebär att en lastbalanserare eller orkestrator hanterar den korrekt istället för att gissa <a href="#ref-2">[2]</a>.
Imagen är artefakten, volymen är tillståndet
Containerbildens byggprocess är reproducerbar från källkoden, och tillstånd per distribution lagras på en volym istället för inuti imagen <a href="#ref-2">[2]</a>. Denna separation gör en ominstallation säker: du byter ut imagen utan att röra modelllagret, nycklar eller licenstillstånd. Strukturerade JSON-loggar (<code>AISUITE_LOG_JSON=1</code>) skickas direkt till en loggsamlare.
Probe-redo för orkestratorer
<code>/livez</code> rapporterar att processen är vid liv; <code>/readyz</code> rapporterar att den är redo att ta emot trafik och växlar till <code>503</code> under avlastning <a href="#ref-2">[2]</a>. Koppla liveness-proben till <code>/livez</code>, readiness-proben till <code>/readyz</code>, och sätt en avslutningsperiod som är lika med eller längre än avlastnings- och nedstängningsbudgetarna, så blir rullande uppdateringar nertidfria utan extra verktyg.
Licensierad och nycklad innan den tjänar
Eftersom containern binder en icke-loopback-adress, det vill säga nätverkstjänst, och daemonen stängs av vid fel utan både en Pro-rättighet och minst en API-nyckel på volymen <a href="#ref-3">[3]</a>. En licensfil är en per-installationsfil som skrivs av en licensierad installation, inte något man skapar manuellt; en Gratis installation är avsedd att vara endast loopback enligt design.
Byggstenen i en farm
En gateway-farm är N av dessa containrar bakom en gateway, så samma miljökonfigurerade image skalar från en enda VPC-endpoint till en lastbalanserad flotta <a href="#ref-1">[1]</a>. Containern som tjänar dina mobila och webbläsarhuvuden idag är den arbetare du replikerar imorgon.