Skip to content
14 / 21

Как ΡΡ‡ΠΈΡ‚Π°Ρ‚ΡŒ Ρ‚ΠΎΠΊΠ΅Π½Ρ‹ ΠΈ ΡΡ‚ΠΎΠΈΠΌΠΎΡΡ‚ΡŒ запроса Π΄ΠΎ ΠΎΡ‚ΠΏΡ€Π°Π²ΠΊΠΈ Π² LLM?

Для OpenAI ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉ tiktoken ΠΈΠ»ΠΈ js-tiktoken с ΠΊΠΎΠ΄ΠΈΡ€ΠΎΠ²ΠΊΠΎΠΉ cl100k_base (GPT-4) ΠΈΠ»ΠΈ o200k_base (GPT-4o/4.1/5). Для Anthropic β€” client.messages.countTokens(...), ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π²Ρ‹Π·Ρ‹Π²Π°Π΅Ρ‚ ΠΎΡ„ΠΈΡ†ΠΈΠ°Π»ΡŒΠ½Ρ‹ΠΉ endpoint с Ρ‚Π΅ΠΌΠΈ ΠΆΠ΅ ΠΏΡ€Π°Π²ΠΈΠ»Π°ΠΌΠΈ, Ρ‡Ρ‚ΠΎ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ Π±ΠΈΠ»Π»ΠΈΠ½Π³. Π‘Ρ‚ΠΎΠΈΠΌΠΎΡΡ‚ΡŒ = input_tokens * input_price + output_tokens * output_price, Ρ†Π΅Π½Ρ‹ Π±Π΅Ρ€Ρ‘ΡˆΡŒ ΠΈΠ· docs ΠΏΡ€ΠΎΠ²Π°ΠΉΠ΄Π΅Ρ€Π° ΠΈ Π΄Π΅Ρ€ΠΆΠΈΡˆΡŒ Π² ΠΊΠΎΠ½Ρ„ΠΈΠ³Π΅.

Как ΡΡ‡ΠΈΡ‚Π°Ρ‚ΡŒ Ρ‚ΠΎΠΊΠ΅Π½Ρ‹ ΠΈ ΡΡ‚ΠΎΠΈΠΌΠΎΡΡ‚ΡŒ запроса Π΄ΠΎ ΠΎΡ‚ΠΏΡ€Π°Π²ΠΊΠΈ Π² LLM? | JScriptiser