12 / 28
ΠΠ°ΠΊΠΈΠ΅ Π΅ΡΡΡ ΡΡΡΠ°ΡΠ΅Π³ΠΈΠΈ ΡΠ°Π½ΠΊΠΈΠ½Π³Π° Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠΎΠ² ΠΈ ΠΊΠ°ΠΊ Π²ΡΠ±ΡΠ°ΡΡ ΡΠ°Π·ΠΌΠ΅Ρ ΡΠ°Π½ΠΊΠ°?
Chunking β ΡΠ°Π·Π±ΠΈΠ²ΠΊΠ° Π΄ΠΎΠΊΡΠΌΠ΅Π½ΡΠ° Π½Π° ΠΊΡΡΠΊΠΈ Π΄Π»Ρ ΠΈΠ½Π΄Π΅ΠΊΡΠ°ΡΠΈΠΈ. ΠΡΠ½ΠΎΠ²Π½ΡΠ΅ ΡΡΡΠ°ΡΠ΅Π³ΠΈΠΈ: fixed-size (ΠΏΠΎ N ΡΠΎΠΊΠ΅Π½ΠΎΠ² Ρ overlap), recursive (ΠΏΠΎ ΡΠ°Π·Π΄Π΅Π»ΠΈΡΠ΅Π»ΡΠΌ Ρ fallback), semantic (ΠΏΠΎ ΡΠΌΡΡΠ»ΠΎΠ²ΡΠΌ Π³ΡΠ°Π½ΠΈΡΠ°ΠΌ ΡΠ΅ΡΠ΅Π· embeddings), parent-child (ΠΌΠ΅Π»ΠΊΠΈΠΉ ΡΠ°Π½ΠΊ Π΄Π»Ρ ΠΏΠΎΠΈΡΠΊΠ°, ΡΠΎΠ΄ΠΈΡΠ΅Π»Ρ Π΄Π»Ρ ΠΊΠΎΠ½ΡΠ΅ΠΊΡΡΠ°). Π Π°Π·ΠΌΠ΅Ρ: 300-800 ΡΠΎΠΊΠ΅Π½ΠΎΠ² Ρ 10-20% overlap β Ρ ΠΎΡΠΎΡΠΈΠΉ Π΄Π΅ΡΠΎΠ»Ρ. Π‘Π»ΠΈΡΠΊΠΎΠΌ ΠΌΠ΅Π»ΠΊΠΎ β ΡΠ΅ΡΡΠ΅ΡΡΡ ΠΊΠΎΠ½ΡΠ΅ΠΊΡΡ, ΡΠ»ΠΈΡΠΊΠΎΠΌ ΠΊΡΡΠΏΠ½ΠΎ β ΡΡΠΌ ΠΈ lost-in-the-middle.