Auto-hébergement de l'IA dans votre propre VPC : un conteneur, configuré par variables d'environnement, prêt pour les sondes

Un AI Server conteneurisé fonctionne sur une VM cloud ou tout hôte Docker, entièrement configuré par variables d'environnement, avec sondes de santé de niveau orchestrateur et journaux JSON ^{<a href="#ref-1">[1]</a>}. Les déploiements sont immuables et reproductibles : l'image est l'artefact et un volume monté porte l'état. Chaque réglage est une variable d'environnement, rien n'est intégré dans l'image, et <code>/livez</code> et <code>/readyz</code> garantissent qu'un équilibreur de charge ou un orchestrateur le gère correctement plutôt que de deviner ^{<a href="#ref-2">[2]</a>}.

L'image est l'artefact, le volume est l'état

La construction de l'image du conteneur est reproductible depuis le dépôt, et l'état par déploiement réside sur un volume plutôt qu'à l'intérieur de l'image ^{<a href="#ref-2">[2]</a>}. Cette séparation rend la reconstruction sûre : vous remplacez l'image sans toucher au magasin de modèles, aux clés ou à l'état de licence. Les journaux JSON structurés (<code>AISUITE_LOG_JSON=1</code>) sont directement envoyés à un collecteur de logs.

Prêt pour les sondes des orchestrateurs

<code>/livez</code> indique que le processus est vivant ; <code>/readyz</code> indique qu'il est prêt à recevoir du trafic et passe à <code>503</code> lors de la vidange ^{<a href="#ref-2">[2]</a>}. Connectez la sonde de vivacité à <code>/livez</code>, la sonde de disponibilité à <code>/readyz</code>, et définissez une période de grâce de terminaison égale ou supérieure aux budgets de vidange et d'arrêt, et les mises à jour progressives deviennent sans interruption sans outils supplémentaires.

Licencié et activé avant de servir

Parce que le conteneur lie une adresse non loopback, ce qui correspond à un service réseau, et que le démon se ferme en cas d'échec sans à la fois un droit Pro et au moins une clé API sur le volume ^{<a href="#ref-3">[3]</a>}. Un artefact de licence est un fichier par installation écrit par une installation sous licence, ce n'est pas quelque chose à créer manuellement ; une installation Free est conçue pour être uniquement en loopback par conception.

Le bloc de construction d'une ferme

Une ferme de passerelle est composée de N de ces conteneurs derrière une seule passerelle, ainsi l'image configurée par environnement s'adapte d'un seul point de terminaison VPC à une flotte équilibrée en charge ^{<a href="#ref-1">[1]</a>}. Le conteneur qui sert vos clients mobiles et navigateurs aujourd'hui est le worker que vous répliquez demain.