Буфер — тензор состояния Module (running_mean BN, positional encodings), ездит в state_dict и .to(device), но не обучается оптимизатором.
Разбор
persistent=False исключает из state_dict.
- Ошибка — хранить masks как обычный атрибут без register.
- Буферы не получают
.grad.
- Удобно для констант, завязанных на device модели.
Итог
Buffers — stateful non-trainable тензоры Module.