Фиксируют input_signature, уменьшают разнообразие shapes, не создают функцию в цикле заново, избегают Python-side ветвлений по тензорным значениям без Autograph.
Разбор
- Смотрят предупреждения retracing.
- Бакеттинг длин последовательностей.
experimental_relax_shapes — компромисс.- Отдельные concrete functions для пары shapes.
Итог
Стабильные сигнатуры входов = меньше дорогих retrace.