Сиды фиксируют ГПСЧ CPU/CUDA/python для большей воспроизводимости инициализации и shuffle, но полная детерминированность на GPU ограничена.
Разбор
- Также сидят numpy и DataLoader
generator.
cudnn.deterministic / benchmark влияют на скорость и детерминизм.- Многопоточный DataLoader и атомарные операции снижают повторяемость.
- Для отладки — максимальная детерминированность; для прод-скорости — нет.
Итог
Сиды помогают, но GPU-обучение редко бит-в-бит одинаково.