Как прикинуть размер индекса приближённых соседей: сколько памяти нужно под миллиард векторов?

Базовый счёт: число векторов × размерность × байт на число. Миллиард векторов по 768 измерений во float32 — это около 2.8 ТиБ только на сами векторы, плюс накладные расходы графа HNSW (обычно +30–50%). Отсюда три рычага: снизить размерность (matryoshka-обрезка, PCA), сжать числа (int8 — вчетверо, бинаризация — в 32 раза) и шардировать по узлам. На интервью считают вслух и сразу называют, чем платят за каждое сжатие.