Перейти к содержимому
14 / 21

Как считать токены и стоимость запроса до отправки в LLM?

Для OpenAI используй tiktoken или js-tiktoken с кодировкой cl100k_base (GPT-4) или o200k_base (GPT-4o/4.1/5). Для Anthropic — client.messages.countTokens(...), который вызывает официальный endpoint с теми же правилами, что использует биллинг. Стоимость = input_tokens * input_price + output_tokens * output_price, цены берёшь из docs провайдера и держишь в конфиге.

Как считать токены и стоимость запроса до отправки в LLM? | JScriptiser