Внешний цикл оценивает обобщение; внутренний — выбирает гиперпараметры. Так оценка не смешана с тюнингом. Дорого вычислительно, но честнее простого CV после grid search.
Разбор
- Когда данных мало и тюнинг агрессивен — особенно полезно.
- Альтернатива: отдельный test после одного CV-тюнинга.
- Репортируйте схему валидации.
- Параллелизация внутренних циклов.
Итог
Nested CV отделяет выбор модели от оценки её качества.