Windows、macOS、またはLinuxの単一マシン上の1台のAI Serverが、そのマシンのみをサービスする構成は、すべてのAI Suiteデスクトップアプリが自動的に自身のために作成する設定です <a href="#ref-1">[1]</a>. 意図的に実行することで、そのデフォルトが実際に何であるかがわかります。デーモンは<code>127.0.0.1</code>のみにバインドされているため、ネットワーク上の他のどの端末からもアクセスできません。キーもライセンスも不要で、ループバックでの提供は無料です。また、マシン上のすべてのアプリが1つのデーモンを共有しているため、メモリ内のモデルはアプリごとにコピーされるのではなく1つだけです。 <a href="#ref-1">[1]</a>。
ネットワーク上のどの機器からもアクセスできません
ループバックは忘れがちなファイアウォールルールではありません。ソケットはローカルインターフェースにバインドされているため、他のマシンからはそのエンドポイントは存在しません <a href="#ref-2">[2]</a>. これは、何かを意図的にネットワーク接続する前に理解しておくべき基本的な姿勢です。ローカルで何が動作しているかを把握し、それから何を公開するかを決定してください。
1つのデーモン、1つのモデルをメモリに
同じマシン上のアプリは<code>server.lock</code>ファイルを通じてデーモンを自動的に検出するため、2つ目のアプリを開いてもモデルのコピーは2つ読み込まれません <a href="#ref-1">[1]</a>チャットアプリ、ノートアプリ、PDFリーダーはすべて同じ稼働中のサーバーと同じウォームモデルに接続します。
CI用のスタブ、本番用のリアルエンジン
<code>stub</code>エンジンはダウンロード不要で即起動し、テスト用にローカルAIエンドポイントが必要なCIエージェントに適しています。一方、<code>real</code>エンジンは初回使用時にモデルをダウンロードし、実際の推論を行います。 <a href="#ref-2">[2]</a>ヘルスチェックとOpenAI形式のチャット補完で稼働を確認します。組み込みのダッシュボードにはモードバッジと直前のリクエストが表示され、同一マシン上ではキー不要です。
設定不要
単一マシンの場合、キーもライセンスもネットワークポリシーも設定不要です。 <a href="#ref-1">[1]</a>既にお持ちのノートパソコンで完全オフライン動作します。複数台にサービス提供する準備ができたら、同じデーモンがキーを使ってLANにバインドします。