相同點:
(1)都是由多棵樹組成的,都是集成學習算法
(2)最終的結果都是由多顆樹一起決定
不同點:
(1)組成隨機森林的樹可以是分類樹,也可以是回歸樹,但是GBDT只能由回歸樹組成。
(2)組成隨機森林的樹可以并行生成,但是組成GBDT的樹只能串行生成。
(3)對于最終的輸出結果,隨機森林采用多數投票;而GBDT是將所有的結果累加起來,或者加權起來
(4)隨機森林對異常值不敏感,而GBDT對異常值非常敏感
(5)隨機森林通過減小方差來提高性能,GBDT通過減小偏差來提高性能
相同點:
(1)都是由多棵樹組成的,都是集成學習算法
(2)最終的結果都是由多顆樹一起決定
不同點:
(1)組成隨機森林的樹可以是分類樹,也可以是回歸樹,但是GBDT只能由回歸樹組成。
(2)組成隨機森林的樹可以并行生成,但是組成GBDT的樹只能串行生成。
(3)對于最終的輸出結果,隨機森林采用多數投票;而GBDT是將所有的結果累加起來,或者加權起來
(4)隨機森林對異常值不敏感,而GBDT對異常值非常敏感
(5)隨機森林通過減小方差來提高性能,GBDT通過減小偏差來提高性能