Skip to content
9 / 20

Сколько места и денег съедят данные ML-системы: как оценить объём логов, витрин и признаков?

Счёт начинается с числа событий в сутки и среднего размера записи: миллиард событий по 500 байт — это 500 ГБ в день, около 180 ТБ в год до сжатия. Дальше три множителя: колоночное хранение со сжатием (обычно в 5–10 раз меньше), срок хранения по слоям (сырые события — недели, агрегаты — годы) и дублирование под офлайн- и онлайн-хранилища признаков. Без политики удаления затраты на данные обгоняют затраты на обучение.

Сколько места и денег съедят данные ML-системы: как оценить объём логов, витрин и признаков? | JScriptiser