Ein einzelner AI Server auf der GPU-Box des Büros versorgt jeden Arbeitsplatz im Netzwerk über HTTP mit API-Schlüssel-Authentifizierung; Team-Apps richten sich darauf aus, anstatt Modelle lokal auszuführen <a href="#ref-1">[1]</a>. Eine GPU versorgt zwanzig Laptops, weil das Modell nur einmal geladen wird und alle es gemeinsam nutzen. Die Daten bleiben im Gebäude, es gibt keine Cloud-KI im Pfad und keine Abrechnung pro Token, und die IT zieht oder aktualisiert Modelle an einer Stelle statt an jedem Arbeitsplatz <a href="#ref-1">[1]</a>.
Standardmäßig mit Schlüssel, Fail-Closed
Netzwerk-Serving ist eine kostenpflichtige Funktion; ein nur für Loopback verfügbarer Server bleibt kostenlos <a href="#ref-3">[3]</a>. Sie vergeben einen API-Schlüssel auf der Servicemaschine über die Desktop-App oder die CLI; der rohe Schlüssel wird einmal angezeigt und der Server speichert nur einen Hash. Der Daemon verweigert den Start auf einer Nicht-Loopback-Bindung, wenn kein Schlüssel existiert, was der Fail-Closed-Standard ist und kein Fehler, der umgangen werden muss <a href="#ref-2">[2]</a>. Anfragen ohne Schlüssel auf <code>/v1/*</code> liefern <code>401</code>; Health-Probes bleiben schlüssellos, damit die Überwachung funktioniert.
Erkennung, die den Server festlegt
Arbeitsplätze finden die Box in den Einstellungen unter AI Server: mDNS entdeckt sie im LAN, oder Sie fügen <code>http://<server-ip>:<port></code> hinzu und fügen den Schlüssel ein <a href="#ref-2">[2]</a>. Jede App speichert beim ersten Verbindungsaufbau den Fingerabdruck des Servers, sodass eine spätere Änderung des Fingerabdrucks vor dem Vertrauen warnt, anstatt den Datenverkehr stillschweigend umzuleiten.
Ihre anderen Tools funktionieren ebenfalls
Jedes OpenAI-kompatible Tool kann denselben Endpunkt verwenden: Basis-URL <code>/v1</code>, der API-Schlüssel als Bearer-Token <a href="#ref-1">[1]</a>. Anonymer Drittanbieter-Datenverkehr ist mengenmäßig begrenzt; authentifizierter Datenverkehr nicht. Das Büro verwendet eine Endpunkt- und eine Schlüsselrichtlinie statt einer separaten Integration pro Tool.
Was die IT betreibt
Der Server hostet sein eigenes Dashboard: aktive Clients, nach App zugeordneter Datenverkehr und die installierte Modellliste, erreichbar von jedem Arbeitsplatz mit dem Schlüssel <a href="#ref-1">[1]</a>. Dies ist der Schritt vor einer Farm. Wenn eine einzelne Box nicht mehr ausreicht, wird dasselbe Produkt hinter einem Gateway betrieben, ohne dass sich die Apps ändern.