1つ以上のワーカーをカナリアとして指定し、プールにカナリアの割合を設定します:その割合の呼び出し元は、リクエストごとのコイン投げではなくIDハッシュによって一貫して割り当てられ、カナリアワーカーを優先し、他は安定版に留まります。 <a href="#ref-1">[1]</a>両グループは互いのフェイルオーバーとして機能するため、変更は元に戻せて影響範囲が限定されます。
実際のトラフィックで新モデルを試す
新しいモデルバージョン、新しい量子化、新しいデーモンビルドは、フリートがそれらを採用する前に制御された実際のトラフィックの一部で試験できます。 <a href="#ref-1">[1]</a>これにより、合成ベンチマークではなくライブリクエストを使って、新モデルと現行モデルのA/Bスタイルの比較を実行できます。
一貫性があり、揺らぎなし
呼び出し元一貫のスライスにより、ユーザーは試験対象に完全に含まれるか完全に除外されるため、フィードバックは一貫し、比較は意味のあるものとなり、会話中の揺らぎはありません。 <a href="#ref-1">[1]</a>カナリアグループに属するユーザーはセッション全体でそのままなので、比較結果の信頼性が高まります。
設計上のフェイルセーフ
カナリアボックスが停止または誤動作した場合、そのスライスは自動的に安定版ワーカーにフェイルオーバーします <a href="#ref-1">[1]</a>. ブラスト半径はスライスであり、フェイルオーバーまでの間のみです。カナリアリリースをドレイン対応のローリングアップグレード(機械的な展開)と組み合わせることで、フリート全体のモデル変更が飛躍的な決断ではなく段階的な決定になります。 <a href="#ref-2">[2]</a>.