Что такое вложенная кросс-валидация и почему обычная завышает оценку качества, когда на тех же данных подбирают гиперпараметры?

Nested CV — это двухуровневая кросс-валидация: outer loop оценивает обобщающее качество модели, а inner loop на train-части каждого outer fold подбирает гиперпараметры. Обычный GridSearchCV использует одни и те же folds для выбора гиперпараметров и для оценки качества, что создаёт оптимистичный bias: чем больше grid, тем выше шанс случайно «подогнаться» под конкретный split. Nested CV изолирует эти два процесса и даёт честную оценку. Обязателен на маленьких датасетах (n < 1000) и при сравнении моделей.