Что такое API языковых моделей и как с ним работать?

API языковой модели (LLM) — это HTTP-эндпоинт у провайдера (OpenAI, Anthropic, Google), куда вы шлёте список сообщений и параметры, а в ответ получаете сгенерированный текст. Отличие от обычного REST: ответ стохастичный, оплата по токенам, поддерживается streaming. Базовые поля запроса: model, messages (роли system/user/assistant), temperature, max_tokens, top_p. Для длинных ответов включают streaming.