Emble methods : アンサンブルメゾット

アンサンブルメゾットの目標は与えられた学習アルゴリズムによってできたいくつかのモデルの予測を組み合わせ、一つのモデル以上に一般化、ロバストネスを向上することである。

一般に以下の2つのアンサンブルメゾットが有名です。

  • 平均法では独立して複数のモデルを構築し、その後、それらの予測を平均化します。
    • 平均化することで結合モデルは、分散が減少するので通常は単一モデルよりも優れています。
    • Examples: Bagging methods, Forests of randomized trees...
  • 一方、 boosting 法 では、モデルを順次構築し、結合モデルの偏りを軽減しようとします。
    • 協力なアンサンブルを生成するためにいくつかの弱いモデルを組み合わせようとするのが目的です。
    • Examples: AdaBoost, Gradient Tree Boosting, ...