Что отвечать на «а если нагрузка вырастет в 100 раз»: где узкие места ML-системы при scaling?

Отвечать не «добавим серверов», а назвать конкретный bottleneck и способ его снять. В ML-системе их немного и они предсказуемы: feature fetch, vector index, стоимость ranking, training pipeline и хранилище логов. У каждого свой предел и свой приём scaling — и рост ×100 обычно ломает не тот слой, который кажется очевидным.