Зачем запускать ML-модели прямо в браузере вместо серверного API?

ML в браузере даёт четыре главных выгоды: privacy (данные не покидают устройство), низкая latency (нет сетевого round-trip), offline-режим (работает без интернета) и нулевая стоимость inference (нет серверных GPU). Минусы: ограничения по размеру модели, расход батареи, разогрев устройства, медленный первый запуск из-за загрузки весов.