Dziś wydajemy AI Server v2 — całkowicie przebudowany silnik współdzielony stojący za AI Suite, zastępujący starszą wersję dostępną tylko na Windows. Zamienia komputer w jedno współdzielone, prywatne środowisko AI: hostuj, pobieraj i uruchamiaj modele AI używane przez każdą aplikację AI Suite — jedno pobranie modelu, jedna biblioteka, jeden zestaw kluczy API, używane wszędzie.

Co robi

Każda aplikacja AI Suite — Chatbot, Translate, Notepad, PDF Reader i pozostałe — odciąża swoje AI na AI Server zamiast dołączać własny silnik. Model jest pobierany raz i udostępniany wszystkim, bez wychodzenia danych z Twojego urządzenia. Uruchom go tylko na sesję lub zainstaluj jako działającą w tle usługę Windows która nadal obsługuje po wylogowaniu lub restarcie.

Wszystkim zarządzasz z jednego miejsca: Modele strona do pobierania i organizowania modeli — oraz przenoszenia całej biblioteki modeli na inny dysk bez ponownego pobierania — a Dostawcy strona do łączenia chmurowej AI z własnymi kluczami, oraz na żywo Połączenia, Aktywne żądania, Użycie oraz Logi strony, dzięki którym możesz dokładnie zobaczyć, co się dzieje. Pod maską działa kilka silników za jednym API i wybiera odpowiedni dla modelu, a obsługuje zarówno OpenAI (/v1/*) jak i Ollama (/api/*) API, więc narzędzia firm trzecich, takie jak Open WebUI czy prosty curl skrypt również działają.

Nowość w wersji 2

  • Wspólne środowisko uruchomieniowe. Jedno pobranie modelu i jedna biblioteka, udostępniana każdej aplikacji AI Suite — bez powielania wielogigabajtowych pobrań.
  • Uruchom na sesję lub jako usługę. Utrzymuj działanie w tle przez ponowne uruchomienia (Pro) lub tylko podczas pracy.
  • Zarządzaj wszystkim w jednej konsoli. Modele, dostawcy chmury i aktywne połączenia, aktywne żądania, użycie i logi.
  • Przenieś swoją bibliotekę, nie pobieraj ponownie. Bezpiecznie przenieś cały magazyn modeli na inny dysk, z weryfikacją przed przełączeniem.
  • Prywatność wbudowana w projekt. Klucze dostępu do serwera są przechowywane jako bezpieczne hashe; wszelkie skonfigurowane poświadczenia dostawców zewnętrznych muszą pozostać możliwe do odzyskania i są chronione osobno. Raportowanie użycia nie zawiera treści, a opcjonalna telemetria produktu podąża za ustawieniami aplikacji oraz domyślnymi ustawieniami regionalnymi/platformowymi w polityce prywatności.
  • Płynna aktualizacja. Istniejące ustawienia są przenoszone automatycznie, a starsze aplikacje, które łączyły się z poprzednim AI Server, nadal działają.
  • 16 języków i tryb bezgłowy CLI dla zaawansowanych użytkowników i automatyzacji.

Darmowy, Pro i zarządzany

AI Server dostępny jest w trzech edycjach, a darmowa jest naprawdę użyteczna sama w sobie:

  • Darmowy — Lokalny AI Server. Działa na tym komputerze (loopback) i zapewnia każdej aplikacji AI Suite nieograniczony lokalny AI, za darmo, na zawsze. Zarządzaj modelami i dostawcami oraz przenoś swoją bibliotekę.
  • Pro Personal — Sieciowy AI Server. Udostępniaj swoje lokalne modele do inne urządzenia w sieci, wybierz port i nazwę wyświetlaną, a następnie uruchom AI Server jako usługę działającą w tle.
  • Pro Commercial — Zarządzany AI Server. Wszystko z Personal plus pełny system zarządzania — klucze API, limity szybkości na klucz, limity i budżety zużycia, filtrowanie treści, podpisany eksport audytu, polityka cyklu życia modelu oraz zgodność regionalna — wieloserwerowy AI Gateway do równoważenia obciążenia między serwerami oraz rejestracja organizacji do scentralizowanego zarządzania wieloma urządzeniami z poziomu AI Admin Console.

Daemon jest bramą rejestru dla obsługi sieciowej, więc granica jest egzekwowana przez sam serwer, a nie tylko interfejs użytkownika. Wszystko, co robi darmowa aplikacja, pozostaje bezpłatne; Pro dotyczy obsługi poza tym urządzeniem i zarządzania tym ruchem.

Dlaczego lokalny serwer AI ma znaczenie

Prace AI, które ludzie najbardziej chcą zachować w prywatności, to często dokładnie te, które nie mogą trafić do chmury — dokumenty wewnętrzne, dane klientów, niedokończone pomysły. Na ścieżce lokalnego modelu AI Server przenosi model do Twoich danych: zapytania i odpowiedzi pozostają w Twojej infrastrukturze, klucze dostępu do serwera są haszowane, a zapisy użycia nie zawierają treści zapytań i odpowiedzi. Wybranie skonfigurowanego dostawcy chmury tworzy inną ścieżkę danych do tego dostawcy. To sprawia, że lokalna ścieżka jest odpowiednia dla gospodarstw domowych dbających o prywatność, regulowanych procesów, gdzie zapytania i odpowiedzi nie mogą opuścić zarządzanego sprzętu, oraz konfiguracji offline lub odizolowanych od sieci. To ta sama zasada lokalna i priorytet prywatności, która stoi za wszystkim, co tworzy Software Tailor <a href="#ref-1">[1]</a>.

To także podstawa dla reszty AI Suite: lekkie aplikacje, które nie mają własnego silnika, mogą nadal korzystać z pełnej lokalnej AI, odciążając ją na współdzielony serwer — jedno pobranie zasila cały Twój pulpit.

Pobierz

AI Server v2 jest już dostępny w Microsoft Store dla Windows jako bezpłatne pobranie, z opcją Pro, gdy chcesz obsługiwać swoją sieć i dodać zarządzanie <a href="#ref-2">[2]</a>. Dołączony jest także bezgłowy interfejs CLI, a w dokumentacji znajdują się przewodniki szybkiego startu, klienta API, Kubernetes, licencjonowania i operacji <a href="#ref-3">[3]</a>. Przeczytaj pełną prezentację funkcji na <a href="../ai-server.htm">stronie produktu</a>.