Un singolo AI Server containerizzato gira su una VM cloud o qualsiasi host Docker, configurato interamente tramite variabili d'ambiente, con probe di salute di livello orchestratore e log JSON <a href="#ref-1">[1]</a>. Le distribuzioni sono immutabili e ripetibili: l'immagine è l'artefatto e un volume montato contiene lo stato. Ogni parametro è una variabile d'ambiente, quindi nulla è incorporato nell'immagine, e <code>/livez</code> e <code>/readyz</code> permettono a un bilanciatore di carico o orchestratore di gestirlo correttamente invece di indovinare <a href="#ref-2">[2]</a>.
L'immagine è l'artefatto, il volume è lo stato
La build dell'immagine container è riproducibile dal repository, e lo stato per ogni distribuzione risiede su un volume anziché all'interno dell'immagine <a href="#ref-2">[2]</a>. Questa separazione rende sicuro il rebuild: si sostituisce l'immagine senza toccare il modello, le chiavi o lo stato della licenza. I log JSON strutturati (<code>AISUITE_LOG_JSON=1</code>) vengono inviati direttamente a un raccoglitore di log.
Pronto per le probe degli orchestratori
<code>/livez</code> segnala che il processo è attivo; <code>/readyz</code> segnala che è pronto a ricevere traffico e passa a <code>503</code> durante il draining <a href="#ref-2">[2]</a>. Collega la probe di liveness a <code>/livez</code>, la probe di readiness a <code>/readyz</code>, e imposta un periodo di grazia di terminazione pari o superiore ai budget di draining e spegnimento, così gli aggiornamenti rolling diventano a zero downtime senza strumenti aggiuntivi.
Autorizzato e con chiave prima di servire
Poiché il container associa un indirizzo non di loopback, cioè serve in rete, il demone si chiude in modo sicuro senza sia un diritto Pro che almeno una chiave API sul volume <a href="#ref-3">[3]</a>. Un artefatto di licenza è un file per installazione scritto da un'installazione autorizzata, non qualcosa da creare manualmente; un'installazione Free è progettata per essere solo in loopback.
Il blocco costitutivo di una farm
Una gateway farm è composta da N di questi container dietro un unico gateway, quindi la stessa immagine configurata con env scala da un singolo endpoint VPC a una flotta bilanciata <a href="#ref-1">[1]</a>. Il container che serve oggi le tue interfacce mobile e browser è il worker che replicherai domani.