LightGBM: чем отличается от XGBoost и когда он быстрее?

LightGBM — это бустинг от Microsoft, который растит деревья leaf-wise (по самому «жирному» листу) и использует гистограммы по фичам. На больших датасетах (от 500 тысяч строк) он часто в 5–10 раз быстрее XGBoost при сравнимом качестве, а ещё умеет работать с категориями нативно через categorical_feature.