Markeer één of meer workers als canary en geef de pool een canary-percentage: dat aandeel bellers, consistent toegewezen via een identity hash in plaats van per verzoek een muntworp, geeft de voorkeur aan de canary-worker terwijl iedereen anders op stable blijft <a href="#ref-1">[1]</a>. Beide groepen blijven elkaars failover, dus de wijziging is omkeerbaar en afgebakend.
Test nieuwe modellen op echt verkeer
Nieuwe modelversies, nieuwe kwantisaties en nieuwe daemon-builds kunnen getest worden op een gecontroleerd deel van het echte verkeer voordat de hele vloot zich eraan committeert <a href="#ref-1">[1]</a>. Zo voer je een A/B-vergelijking uit van een nieuw model tegen de huidige met live verzoeken in plaats van een synthetische test die mogelijk niet overeenkomt met je werklast.
Coherent, niet schommelend
Caller-consistente segmentatie betekent dat een gebruiker volledig in de testgroep zit of er volledig buiten, zodat feedback coherent is en vergelijkingen zinvol zijn zonder schommelingen midden in een gesprek <a href="#ref-1">[1]</a>. Een gebruiker die in de canary-groep zit blijft daar de hele sessie, wat de vergelijking betrouwbaar maakt.
Fail-safe door ontwerp
Als de canary-box uitvalt of zich misdraagt, schakelt het segment automatisch over naar de stable-workers <a href="#ref-1">[1]</a>. De blast radius is het segment, en alleen tot failover. Combineer een canary met een drain-aware rolling upgrade, wat de mechanische uitrol is, en een fleet-brede modelwijziging wordt een geleidelijke beslissing in plaats van een sprong <a href="#ref-2">[2]</a>.