机器学习:集成学习

机器学习,集成学习。集成学习,将多个模型组合起来进行训练。一般为了避免过拟合,会选择能力相对较差的模型作为弱学习器,共同训练后选取最优的训练结果。

集成学习分类:

Bagging 平行进行训练,即为个模型各自训练,再综合选出最优结果。算法有:随机森林。

Bootsting 逐步、递进的进行训练,一个模型训练完到下一个。算法:Adaboost、GBDT、XGBoost、LightGBM。