Зачем ML-систему разбивают на cascade: candidate generation, ranking, re-ranking?

Точная модель не успевает обработать весь каталог, быстрая недостаточно точна. Cascade разводит по слоям: candidate generation сокращает миллионы до сотен дёшево (ANN, простые правила), ranking применяет тяжёлую модель к сотням, re-ranking правит финальный список по business logic — diversity, freshness, constraints. Каждый следующий слой дороже на объект и работает с меньшим их числом.