Random Forest

Random Forest gehört zu den Ensemble-Methoden und basiert auf Entscheidungsbäumen. Viele kleine Entscheidungsbäume werden gemittelt, um ein leistungsfähiges Gesamtmodell zu erstellen.

Bagging

Das Konzept von Random Forests baut auf der Methode von Bagging auf. Bagging gehört zu den sogenannten Ensemble-Methoden. Ensemble-Methoden ist gemeinsam, dass sie viele schwache, wenig prognosekräftige Modelle (engl. weak learners) kombinieren und dadurch ein starkes, vorhersagekräftiges Modell erzeugen (eng. strong learner). Bagging steht dabei für bootstrap aggregating. Um der hohen Varianz eines einzelnen Entscheidungsbaumes entgegenzuwirken und die Prognosegenauigkeit zu erhöhen, würden optimalerweise viele Trainingsdatensätze aus der Population gezogen werden. Für jeden Trainingsdatensatz wird ein separates Modell geschätzt. Anschließend wird aus allen Modellen der Durchschnitt ermittelt, um ein Gesamtmodell zu erhalten.

Bootstrapping

Da ein solches Vorgehen aus praktischer Sicht nicht umsetzbar ist (nur ein Trainingsdatensatz steht zur Verfügung), wird Bootstrapping eingesetzt, um verschiedene Trainingsdatensätze zu simulieren. Bei der Methode des Bootstrapping wird ein neuer Datensatz mit gleicher Beobachtungsanzahl durch Ziehen mit Zurücklegen aus dem ursprünglichen Datensatz generiert. Dies hat zur Folge, dass Beobachtungen aus dem Ursprungsdatensatz mehrfach in einem Bootstrap-Sample vorkommen können.

Im Kontext von Klassifizierungsentscheidungsbäumen werden beim Bagging durch Bootstrapping B Bootstrapp-Sample (=Trainingsdatensätze) gezogen. Für jedes wird ein Entscheidungsbaum geschätzt. Das Mitteln zu einem Gesamtmodell erfolgt durch ein Mehrheitsvotum. Eine neue ungesehene, zu klassifizierende Beobachtung wird von allen B Entscheidungsbäumen klassifiziert, wobei diejenige Klasse als finale Entscheidung verwendet wird, welche mehrheitlich durch die B Entscheidungsbäume geschätzt wurde.

Das Random-Element

Der Methode des Bagging ist inhärent, dass alle geschätzten Entscheidungsbäume eine hohe Korrelation aufweisen. Pro Bootstrap-Sample werden im Durchschnitt zwei Drittel aller Beobachtungen verwendet. Das bedeutet wiederum, dass ein Feature, das einen starken Einfluss hat, in der Mehrheit der Entscheidungsbäume auftauchen wird (ggf. sogar im ersten Split). Damit korrelieren die Entscheidungsbäume beim Bagging stark. Der Ansatz des Random Forest setzt an dieser Schwäche an. Ziel ist es B Entscheidungsbäume zu erhalten, die möglichst unkorreliert sind. Gleichermaßen wie beim Bagging werden B Bootstrap-Trainings-Samples generiert.

Jedoch wird bei jedem Split in jedem Baum nur ein zufälliges Subset von m Features aus allen p Features betrachtet. Der Split darf nur die Features aus dem zufälligen Subset wählen. Ist nun ein extrem starkes Feature vorhanden, wird dieses im Durchschnitt nur in (p-m)/p Fällen betrachtet (James et al. 2013). Wird m gleich p gesetzt, so unterscheiden sich Bagging und Random Forest nicht voneinander. Die B geschätzten Bäume unterscheiden sich daher nun stark voneinander, sodass die Korrelation zwischen diesen sinkt.

Code Snippet

import pandas as pd

from sklearn.metrics import confusion_matrix, classification_report, accuracy_score, recall_score

from sklearn.model_selection import cross_val_score

from sklearn.ensemble import RandomForestClassifier

randomforest = RandomForestClassifier(n_estimators = 1000, random_state = 42)

cv_scores = cross_val_score(randomforest, X_train, y_train, cv = 3, scoring = ‚recall‘)

print(cv_scores)

print(„Average 3-Fold CV recall score: {}“.format(np.mean(cv_scores)))

randomforest.fit(X_train, y_train)

y_pred = randomforest.predict(X_test)

y_pred_proba = randomforest.predict_proba(X_test)[:,1]

Der Code Snippet ist in der Programmiersprache Python geschrieben und basiert auf dem Modul scikit-learn.

Weiterführende Ressourcen zu Machine Learning

Datenintegration

Wie Machine Learning von Datenintegration profitiert
Die Kausalkette „Datenintegration-Datenqualität-Modellperformance“ beschreibt die Notwendigkeit von effektiver Datenintegration für einfacher und schneller umsetzbares sowie erfolgreicheres Machine Learning. Kurzum: aus guter Datenintegration folgt bessere Vorhersagekraft der Machine Learning Modelle wegen höherer Datenqualität.

Betriebswirtschaftlich liegen sowohl kostensenkende als auch umsatzsteigernde Einflüsse vor. Kostensenkend ist die Entwicklung der Modelle (weniger Custom Code, damit weniger Wartung etc.). Umsatzsteigernd ist die bessere Vorhersagekraft der Modelle, was präziseres Targeting, Cross- und Upselling und ein genaueres Bewerten von Leads und Opportunities betrifft – sowohl im B2B- als auch im B2C-Bereich. Hier findest du einen detaillierten Artikel zu dem Thema:

Plattform

Wie du Machine Learning mit der Integration Platform verwendest
Du kannst die Daten deiner zentralen Marini Integration Platform externen Machine Learning Services und Applikationen zur Verfügung stellen. Die Anbindung funktioniert nahtlos durch die HubEngine oder direkten Zugang zur Plattform, abhängig von den Anforderungen des Drittanbieters. Ein Anbieter für Standardanwendungen des Machine Learnings im Vertrieb ist z.B. Omikron. Du kannst aber auch Standardanwendungen auf AWS oder in der Google Cloud nutzen. Eine Anbindung an deine eigenen Server ist ebenso problemlos möglich, wenn du dort deine eigenen Modelle programmieren möchtest.

Wenn du Unterstützung dabei brauchst, wie du Machine Learning Modelle in deine Plattform einbinden kannst, dann kontaktiere unseren Vertrieb. Wir helfen dir gerne weiter!

Anwendungsbeispiele

Häufige Anwendungsszenarien von Machine Learning im Vertrieb
Machine Learning kann auf vielfältige Weise den Vertrieb unterstützen. Es können zum Beispiel Abschlusswahrscheinlichkeiten berechnet, Cross- und Up-Selling-Potenziale geschätzt oder Empfehlungen vorhergesagt werden. Wichtig dabei ist, dass der Vertriebler unterstützt wird und eine weitere Entscheidungshilfe erhält, anhand derer er sich besser auf seine eigentliche Tätigkeit, nämlich das Verkaufen, konzentrieren kann. So kann der Vertriebler zum Beispiel schneller erkennen, welche Leads, Opportunities oder Kunden am vielversprechendsten momentan sind und diese kontaktieren. Es bleibt jedoch klar, dass der Vertriebler die letztendliche Entscheidung trifft und durch das Machine Learning letztlich nur Erleichterungen erfährt. Schlussendlich verkauft kein Modell, sondern immer noch der Mensch.

Hier findest du eine kurze Einführung in das Thema Machine Learning und die häufigsten Anwendungsmöglichkeiten im Vertrieb.

Weitere Glossar Beiträge

Globale Suche

Zu unseren Produkten gibt es FAQ-Bereiche und Dokumentationen. Falls du im Glossar nicht fündig wirst, empfehlen wir dir auch dort zu suchen. Die globale Suche berücksichtigt alle Inhalte.

Fragen und Mitwirken

Falls du Rückfragen hast, dir ein Eintrag fehlt oder du Änderungswünsche hast, bist du zum Mitwirken eingeladen. Sende uns dafür einfach ein Support-Ticket.

Menü