Random Forest

Wat is random forest?

Random forest is een machine learning-techniek die niet één beslisboom gebruikt, maar honderden tegelijk. Elke boom geeft zijn eigen voorspelling, en het “bos” stemt: bij classificatie wint de meerderheid, bij het voorspellen van getallen wordt het gemiddelde genomen. Het idee: één boom kan zich vergissen, maar de gezamenlijke uitkomst van veel verschillende bomen is opvallend betrouwbaar.

Hoe werkt het?

Elke beslisboom wordt getraind op een willekeurige greep uit de trainingsdata, en bij elke splitsing in de boom wordt ook nog eens een willekeurige selectie van kenmerken gebruikt. Daardoor leert elke boom net iets anders en maken ze verschillende fouten, die elkaar bij het stemmen grotendeels uitmiddelen. Dat maakt random forest veel minder gevoelig voor overfitting (het uit het hoofd leren van trainingsdata) dan een enkele beslisboom. Als bonus kan het model aangeven welke kenmerken het zwaarst wegen in de voorspelling.

Wat heb je eraan als bedrijf?

Random forest is een werkpaard voor voorspellingen op tabeldata, het soort data dat in elk bedrijf in spreadsheets en databases zit. Denk aan klantverloop voorspellen, kredietrisico inschatten of de kans dat een offerte wordt gewonnen. Het traint snel, vergt weinig fijnafstemming en presteert op gestructureerde bedrijfsdata vaak verrassend goed, ook vergeleken met complexere modellen.

Gerelateerde begrippen

Random forest is opgebouwd uit decision trees en is een vorm van ensemble methods. Het is populair omdat het goed bestand is tegen overfitting. Een alternatief voor classificatie zijn support vector machines.