Ensemble Tree Methoden

Ensemble Methoden kombinieren mehrere Decision Trees, um eine bessere Prädiktions-Performance zu erreichen. Das Grundprinzip ist, nicht nur ein Modell (einen Baum) zu trainieren, sondern mehrere Bäume -einen Wald von Bäumen- anzulernen und einzelne Ergebnisse zu einem gemeinsamen Ergebnis zu kombinieren.

Es existieren grundsätzlich zwei Technologien, um ein Ensemble von Trees zu erstellen.

Bagging

Zu den Bagging-Methoden gehören:

• Random Forest
• Extra Trees

Boosting

Zu den Boosting-Methoden gehören:

• Gradient Boosting
• Histogram Gradient Boosting
• XGBoost
• LightGBM

Nicht unterstützte weitere Ensemble Tree Methoden In Scikit-learn stehen auch die Modelle BaggingClassifier, BaggingRegressor, AdaBoostClassifier und AdaBoostRegressor zur Verfügung. Diese erzeugen aktuell beim ONNX-Export einen zur TwinCAT-Bibliothek inkompatiblen Graphen, sodass sie nicht unterstützt werden können.