Random Forest — ансамбль деревьев на бутстрэп-выборках с случайным подмножеством признаков в сплитах; усреднение снижает variance относительно одного дерева.
Разбор
- Out-of-bag оценка — побочный бонус.
- Хорошо работает «из коробки» на таблицах.
- Менее интерпретируем, чем одно дерево.
- Предсказание — голосование/среднее листьев.
Итог
RF — стабильный ансамбль деревьев с рандомизацией.