学习笔记——XGBoost算法 XGBoost和GBDT两者都是boosting方法，除了工程实现、解决问题上的一些差异外，最大的不同就是目标函数的定义。 1、基本原理 1.1 目标函数 XGBoost算法是一个加法模型，在每一步迭代中，只调优当前的子模型：\(F_m(x_i)=F_{m-1}(x_i)+f_m(x_i)\)。其中\(f_m(x_i)\)表示当前的子模型，\(F_{m-1}