11 / 25
Как Random Forest снижает дисперсию через bagging и feature randomness, и что такое OOB-оценка?
Random Forest — ансамбль из независимых деревьев, обученных на bootstrap-выборках (bagging) с подвыборкой признаков на каждом сплите (feature randomness). Среднее по деревьям снижает дисперсию без роста смещения. OOB (out-of-bag) — примеры, не попавшие в bootstrap конкретного дерева (~37%); их предсказания дают честную оценку обобщающей способности без отдельного валидационного сета.