Skip to content
7 / 15

Сколько весит ML-модель и почему её размер критичен для браузера?

Сервер тянет модели в гигабайтах (GPT-3 — 175GB, Llama-7B — 14GB). Браузер — это другая лига: мегабайты. Реалистичный потолок — 5–50 MB, иначе пользователь будет ждать загрузку как фильм. Размер критичен из-за трафика, RAM на телефоне и времени первого предсказания.