Stacking учит мета-модель на out-of-fold предсказаниях базовых; blending — упрощённый holdout-вариант. Дают прирост, но усложняют прод и риск утечки при неправильном OOF.
Разбор
- Разнообразие базовых моделей важнее их числа.
- Мета-модель обычно простая (линейная).
- Latency и сложность отладки.
- Честный OOF обязателен.
Итог
Stacking — ансамбль второго уровня на честных OOF-предсказаниях.