Heute veröffentlichen wir AI Server v2 — einen kompletten Neubau der gemeinsamen Engine hinter AI Suite, der die ältere, nur für Windows verfügbare Version ersetzt. Er verwandelt einen PC in eine gemeinsame, private AI-Laufzeitumgebung: hosten, herunterladen und ausführen der AI-Modelle, die jede AI Suite-App verwendet — ein Modell-Download, eine Bibliothek, ein Satz API-Schlüssel, überall verwendet.

Was es tut

Jede AI Suite-App — Chatbot, Translate, Notepad, PDF Reader und die anderen — lagert ihre AI an AI Server aus, anstatt eine eigene Engine mitzuliefern. So wird ein Modell einmal heruntergeladen und allen bereitgestellt, ohne dass etwas Ihr Gerät verlässt. Führen Sie es nur für die Sitzung aus oder installieren Sie es als Hintergrund- Windows-Dienst der auch nach Abmeldung oder Neustart weiter bereitstellt.

Sie verwalten alles an einem Ort: ein Modelle Seite zum Herunterladen und Organisieren von Modellen – und um Ihre gesamte Modellbibliothek auf ein anderes Laufwerk zu verschieben, ohne sie erneut herunterladen zu müssen – eine Anbieter Seite zum Verbinden von Cloud-KI mit Ihren eigenen Schlüsseln, und live Verbindungen, Aktive Anfragen, Nutzung und Protokolle Seiten, damit Sie genau sehen können, was passiert. Im Hintergrund hostet es mehrere Engines hinter einer API und wählt pro Modell die richtige aus, und es unterstützt sowohl die OpenAI (/v1/*) als auch die Ollama (/api/*) APIs, sodass Drittanbieter-Tools wie Open WebUI oder ein einfaches curl Skript ebenfalls funktionieren.

Neu in v2

  • Eine gemeinsame Laufzeit. Ein Modell-Download und eine Bibliothek, die jeder AI Suite-App bereitgestellt wird – keine mehrfachen Multi-Gigabyte-Downloads.
  • Für die Sitzung ausführen oder als Dienst. Im Hintergrund über Neustarts hinweg laufen lassen (Pro) oder nur während der Arbeit.
  • Alles in einer Konsole verwalten. Modelle, Cloud-Anbieter und Live-Verbindungen, aktive Anfragen, Nutzung und Protokolle.
  • Bibliothek verschieben, nicht neu herunterladen. Den gesamten Modell-Speicher sicher auf ein anderes Laufwerk verschieben, mit Überprüfung vor dem Umschalten.
  • Privat von Grund auf. Server-Zugangsschlüssel werden als sichere Hashes gespeichert; alle konfigurierten Zugangsdaten von Drittanbietern müssen wiederherstellbar bleiben und werden separat geschützt. Nutzungsberichte sind inhaltsfrei, und optionale Produkttelemetrie folgt den App-Einstellungen sowie den regionalen/Plattform-Standardeinstellungen in der Datenschutzrichtlinie.
  • Reibungsloses Upgrade. Bestehende Einstellungen werden automatisch übernommen, und ältere Apps, die sich mit dem vorherigen AI Server verbunden haben, funktionieren weiterhin.
  • 16 Sprachen und eine kopflose CLI für Power-User und Automatisierung.

Kostenlos, Pro und geregelt

AI Server ist in drei Editionen erhältlich, und die kostenlose ist für sich genommen wirklich nützlich:

  • Kostenlos — Lokaler AI Server. Läuft auf diesem PC (Loopback) und bietet jeder AI Suite-App unbegrenzte lokale KI, kostenlos und für immer. Modelle und Anbieter verwalten und Bibliothek verschieben.
  • Pro Personal — Netzwerk-AI Server. Stellen Sie Ihre lokalen Modelle bereit für andere Geräte in Ihrem Netzwerk, wählen Sie den Port und einen Anzeigenamen und führen Sie AI Server als Hintergrunddienst aus.
  • Pro Commercial — Governed AI Server. Alles aus Personal plus eine vollständige Governance Suite — API-Schlüssel, pro Schlüssel festgelegte Ratenbegrenzungen, Nutzungskontingente und Budgets, Inhaltsfilterung, signierter Audit-Export, Modell-Lifecycle-Richtlinie und regionale Compliance — das Multi-Host- AI Gateway für Lastverteilung über Server hinweg und Organisationsanmeldung für zentrale, geräteübergreifende Verwaltung über die AI Admin Console.

Der Daemon ist das offizielle Tor für den Netzwerkdienst, daher wird die Grenze vom Server selbst durchgesetzt, nicht nur von der Benutzeroberfläche. Alles, was die kostenlose App macht, bleibt kostenlos; Pro ermöglicht das Bereitstellen über diese Maschine hinaus und die Steuerung dieses Datenverkehrs.

Warum ein lokaler AI Server wichtig ist

Die AI-Arbeit, die Menschen am meisten privat halten wollen, ist oft genau die, die nicht in die Cloud darf — interne Dokumente, Kundendaten, halbfertige Ideen. Auf dem lokalen Modellpfad bringt AI Server das Modell zu Ihren Daten: Eingaben und Antworten bleiben innerhalb Ihrer Infrastruktur, Serverzugangsschlüssel werden gehasht, und Nutzungsaufzeichnungen schließen Eingabe- und Antwortinhalte aus. Die Auswahl eines konfigurierten Cloud-Anbieters erzeugt einen anderen Datenpfad zu diesem Anbieter. Das macht den lokalen Pfad geeignet für datenschutzbewusste Haushalte, regulierte Arbeitsabläufe, bei denen Eingaben und Antworten die verwaltete Hardware nicht verlassen dürfen, sowie für Offline- oder luftgetrennte Setups. Es ist dasselbe On-Premises-, Datenschutz-zuerst-Prinzip, das hinter allem steht, was Software Tailor entwickelt. <a href="#ref-1">[1]</a>.

Es ist auch die Grundlage für den Rest der AI Suite: schlanke Apps, die keine eigene Engine mitbringen, können dennoch vollständige lokale AI ausführen, indem sie die Last an einen gemeinsamen Server auslagern — ein Download, der Ihren gesamten Desktop antreibt.

Jetzt herunterladen

AI Server v2 ist jetzt im Microsoft Store für Windows als kostenloser Download verfügbar, mit Pro, wenn Sie Ihr Netzwerk bedienen und Governance hinzufügen möchten <a href="#ref-2">[2]</a>. Ein kopfloses CLI wird mitgeliefert, und in der Dokumentation gibt es Schnellstart-, API-Client-, Kubernetes-, Lizenzierungs- und Betriebsanleitungen <a href="#ref-3">[3]</a>. Lesen Sie die vollständige Funktionsübersicht auf der <a href="../ai-server.htm">Produktseite</a>.