XGB原理:与GBDT对比起来讲,首先最大特色,GBDT是一阶导,但是XGB还会多求一个二阶导。然后XGB还支持并行(特征并行),在最开始就会计算出特征的分裂排序,不像GBDT需要不断重新排序。然后XGB还会对特征取子集,每次训练所用的特征不一样,训练量更小,也不容易过拟合。XGB的分类器有树还有线性分类器比如逻辑回归,线性回归,但是GBDT的分类器只有树。XGB有shrinkage策略,会不断衰减分类器性能。XGB即便有缺失值也能自动计算分裂方向但是GBDT不允许有缺失值。
点赞 评论

相关推荐

头顶尖尖的程序员:我是26届的不太懂,25届不应该是找的正式工作吗?为什么还在找实习?大四还实习的话是为了能转正的的岗位吗
点赞 评论 收藏
分享
牛客网
牛客网在线编程
牛客网题解
牛客企业服务