Какие задачи реально решаются на устройстве: распознавание лиц, классификация, маленькие LLM?

На устройстве хорошо работают компактные задачи: распознавание лиц/поз/жестов (BlazeFace, MoveNet), классификация картинок (MobileNet), распознавание речи (Whisper-tiny), переводы и маленькие LLM (Phi-3-mini, Gemma-2B через WebGPU). Большие LLM и генерация картинок — пока удел сервера.