Свой инференс или API провайдера: как посчитать точку окупаемости?

Сравнивать надо не цену за миллион токенов, а полную стоимость владения при вашей загрузке. API оплачивается по факту и стоит ноль при простое; свой сервер оплачивается по часам аренды GPU независимо от того, идут запросы или нет. Отсюда: точка окупаемости определяется загрузкой карты, а не объёмом трафика сам по себе. При загрузке ниже 30–40% свой инференс почти всегда дороже, и к его стоимости надо честно добавлять инженерное время.