Ada Boost

AdaBoost算法

image-20211003102456175

image-20211003102521603

image-20211003103339072

image-20211003103358232

训练误差分析

AdaBoost最基本的性质是它能在学习过程中不断减少训练误差，即在训练数据集上的分类误差率。

image-20211003104702168

image-20211003104711284

image-20211003104720330

image-20211003104728762

image-20211003104736976

算法的解释

可以认为AdaBoost算法是模型为加法模型、损失函数为指数函数、学习算法为前向分步算法时的二类分类学习方法。

前向分步算法

image-20211003105104446

image-20211003105114141

image-20211003105122538

前向分步算法与AdaBoost

image-20211003110016340

image-20211003110028161

image-20211003110057970

image-20211003110106248