Un singolo AI Server sulla GPU box dell'ufficio serve ogni postazione della rete via HTTP con autenticazione tramite chiave API; le app del team si collegano a questo server invece di eseguire i modelli localmente <a href="#ref-1">[1]</a>. Una GPU serve venti laptop perché il modello si carica una volta sola e tutti lo condividono. I dati restano nell'edificio, non c'è AI cloud nel percorso e nessuna fatturazione per token, e l'IT scarica o aggiorna i modelli in un unico punto invece che su ogni scrivania <a href="#ref-1">[1]</a>.
Autenticazione con chiave di default, blocco in caso di errore
Il servizio in rete è una funzionalità a pagamento; un server in loopback rimane gratuito <a href="#ref-3">[3]</a>. Si genera una chiave API sulla macchina server dall'app desktop o dalla CLI; la chiave grezza viene mostrata una sola volta e il server memorizza solo un hash. Il demone si rifiuta di avviarsi su un bind non loopback se non esiste una chiave, che è il comportamento predefinito di blocco in caso di errore anziché un errore da aggirare <a href="#ref-2">[2]</a>. Le richieste senza chiave su <code>/v1/*</code> restituiscono <code>401</code>; le probe di salute restano senza chiave così il monitoraggio funziona.
Scoperta che fissa il server
Le postazioni trovano la box in Impostazioni sotto AI Server: mDNS la scopre sulla LAN, oppure si aggiunge <code>http://<server-ip>:<port></code> e si incolla la chiave <a href="#ref-2">[2]</a>. Ogni app memorizza l'impronta digitale del server al primo collegamento, quindi un successivo cambiamento dell'impronta avvisa prima di essere considerato affidabile, invece di reindirizzare silenziosamente il traffico.
Anche i tuoi altri strumenti funzionano
Qualsiasi strumento compatibile con OpenAI può utilizzare lo stesso endpoint: URL base <code>/v1</code>, la chiave API come token bearer <a href="#ref-1">[1]</a>. Il traffico anonimo di terze parti è limitato in velocità; il traffico con chiave non lo è. L'ufficio mantiene una politica di un endpoint e una chiave invece di un'integrazione separata per ogni strumento.
Cosa gestisce l'IT
Il server ospita la propria dashboard: client attivi, traffico attribuito per app e l'elenco dei modelli installati, accessibile da qualsiasi scrivania con la chiave <a href="#ref-1">[1]</a>. Questo è il passaggio prima di una farm. Quando un singolo dispositivo non basta più, lo stesso prodotto si sposta dietro un gateway senza che le app cambino.