Как оценить стоимость обучения модели: что считать, кроме часов на видеокарте?

Обучение одного финального прогона — обычно меньшая часть счёта. Считать надо весь цикл: подготовка данных, десятки экспериментальных прогонов, подбор гиперпараметров, хранение промежуточных чекпоинтов и время инженеров. Практическое правило: умножьте стоимость финального прогона на 10–30 — столько запусков уходит на путь до него. Отдельно закладывают регулярное переобучение: раз в неделю на год вперёд — это уже 52 прогона.