Skip to content
12 / 28

КакиС Π΅ΡΡ‚ΡŒ стратСгии Ρ‡Π°Π½ΠΊΠΈΠ½Π³Π° Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ΠΎΠ² ΠΈ ΠΊΠ°ΠΊ Π²Ρ‹Π±Ρ€Π°Ρ‚ΡŒ Ρ€Π°Π·ΠΌΠ΅Ρ€ Ρ‡Π°Π½ΠΊΠ°?

Chunking β€” Ρ€Π°Π·Π±ΠΈΠ²ΠΊΠ° Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Π° Π½Π° куски для индСксации. ΠžΡΠ½ΠΎΠ²Π½Ρ‹Π΅ стратСгии: fixed-size (ΠΏΠΎ N Ρ‚ΠΎΠΊΠ΅Π½ΠΎΠ² с overlap), recursive (ΠΏΠΎ раздСлитСлям с fallback), semantic (ΠΏΠΎ смысловым Π³Ρ€Π°Π½ΠΈΡ†Π°ΠΌ Ρ‡Π΅Ρ€Π΅Π· embeddings), parent-child (ΠΌΠ΅Π»ΠΊΠΈΠΉ Ρ‡Π°Π½ΠΊ для поиска, Ρ€ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒ для контСкста). Π Π°Π·ΠΌΠ΅Ρ€: 300-800 Ρ‚ΠΎΠΊΠ΅Π½ΠΎΠ² с 10-20% overlap β€” Ρ…ΠΎΡ€ΠΎΡˆΠΈΠΉ Π΄Π΅Ρ„ΠΎΠ»Ρ‚. Блишком ΠΌΠ΅Π»ΠΊΠΎ β†’ тСряСтся контСкст, слишком ΠΊΡ€ΡƒΠΏΠ½ΠΎ β†’ ΡˆΡƒΠΌ ΠΈ lost-in-the-middle.

КакиС Π΅ΡΡ‚ΡŒ стратСгии Ρ‡Π°Π½ΠΊΠΈΠ½Π³Π° Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ΠΎΠ² ΠΈ ΠΊΠ°ΠΊ Π²Ρ‹Π±Ρ€Π°Ρ‚ΡŒ Ρ€Π°Π·ΠΌΠ΅Ρ€ Ρ‡Π°Π½ΠΊΠ°? | JScriptiser