Кладют новую версию рядом, переключают трафик постепенно (или model warmup + version policy), мониторят latency/error/drift; откат — предыдущая версия каталога.
Разбор
- Warmup requests прогревают граф.
- Схема входа не должна ломаться.
- Теневой режим сравнивает predictions.
- Авто-rollback по SLO.
Итог
Canary Serving = версияированные артефакты + метрики + быстрый откат.