Jeden AI Server na pojedynczym komputerze z Windows, macOS lub Linux, obsługujący tylko ten komputer, to konfiguracja, którą każda aplikacja desktopowa AI Suite tworzy automatycznie dla siebie <a href="#ref-1">[1]</a>. Uruchomienie go świadomie pokazuje, czym tak naprawdę jest to domyślne ustawienie. Demon wiąże się tylko z <code>127.0.0.1</code>, więc nic innego w sieci nie może się z nim połączyć; nie wymaga kluczy ani licencji, ponieważ obsługa loopback jest bezpłatna; a każda aplikacja na komputerze korzysta z jednego demona, co oznacza jeden model w pamięci zamiast kopii na aplikację <a href="#ref-1">[1]</a>.
Nic w sieci nie może się z nim połączyć
Loopback to nie reguła zapory, którą można zapomnieć dodać. Gniazdo jest powiązane z lokalnym interfejsem, więc punkt końcowy nie istnieje dla żadnego innego komputera <a href="#ref-2">[2]</a>. To jest domyślna postawa, którą warto zrozumieć, zanim cokolwiek zostanie celowo udostępnione w sieci: poznaj, co działa lokalnie, a potem zdecyduj, co udostępnić.
Jeden demon, jeden model w pamięci
Ponieważ aplikacje na tym samym komputerze automatycznie wykrywają demona przez jego plik <code>server.lock</code>, otwarcie drugiej aplikacji nie powoduje załadowania drugiej kopii modelu <a href="#ref-1">[1]</a>. Aplikacja czatu, aplikacja notatek i czytnik PDF łączą się z tym samym działającym serwerem i tym samym rozgrzanym modelem.
Stub dla CI, realny do pracy
Silnik <code>stub</code> uruchamia się natychmiast, bez pobierania, co odpowiada agentom CI, które potrzebują lokalnego punktu końcowego AI do testów; silnik <code>real</code> pobiera model przy pierwszym użyciu do rzeczywistego wnioskowania <a href="#ref-2">[2]</a>. Kontrola stanu i uzupełnienie czatu w stylu OpenAI potwierdzają, że działa. Wbudowany panel pokazuje odznakę trybu i właśnie wykonane żądanie, bez potrzeby klucza na tej samej maszynie.
Nic do skonfigurowania
Nie ma nic więcej do ustawienia: brak kluczy, brak licencji, brak polityki sieciowej w przypadku pojedynczej maszyny <a href="#ref-1">[1]</a>. Działa na laptopie, który już posiadasz, całkowicie offline. Gdy będziesz gotów obsługiwać więcej niż jedną maszynę, ten sam demon udostępni LAN za kluczem.