Bagging (RF) параллельно усредняет независимые сильные/переобученные модели, режа variance; boosting последовательно уменьшает bias/ошибку, строя на остатках, и чувствительнее к шуму/тюнингу.
Разбор
- Bagging хорошо параллелится.
- Boosting часто точнее на таблицах при аккуратности.
- Оба — ансамбли деревьев в практике.
- Выбор зависит от данных, latency, интерпретации.
Итог
Bagging усредняет; boosting исправляет ошибки цепочкой.