Чем отличаются XGBoost, LightGBM и CatBoost, и когда выбирать каждый?

Все три — это gradient boosting на деревьях, но с разной инженерией. XGBoost: level-wise рост, регуляризованная цель, де-факто стандарт. LightGBM: leaf-wise рост + histogram binning + GOSS — быстрее всех на больших данных. CatBoost: ordered boosting + native обработка категорий через target encoding с защитой от leakage — лучше всех при множестве категориальных фичей.