Перейти к содержимому
12 / 28

Какие есть стратегии чанкинга документов и как выбрать размер чанка?

Chunking — разбивка документа на куски для индексации. Основные стратегии: fixed-size (по N токенов с overlap), recursive (по разделителям с fallback), semantic (по смысловым границам через embeddings), parent-child (мелкий чанк для поиска, родитель для контекста). Размер: 300-800 токенов с 10-20% overlap — хороший дефолт. Слишком мелко → теряется контекст, слишком крупно → шум и lost-in-the-middle.

Какие есть стратегии чанкинга документов и как выбрать размер чанка? | JScriptiser