Сохраняют словарь: model/optim/(scaler)/scheduler state_dict, epoch, global_step, метрики; при старте восстанавливают всё согласованно.
Разбор
- Только веса модели недостаточны для точного resume Adam.
- Версии кода и гиперпараметры фиксируют рядом.
- Атомарная запись (tmp+replace) защищает от битых файлов.
- map_location при смене устройств.
Итог
Полный checkpoint = модель + состояние оптимизатора + метаданные шага.