Bias-Variance Tradeoff

Wat is de bias-variance tradeoff?

De bias-variance tradeoff is een kernprincipe uit machine learning over de balans tussen een model dat te simpel is en een model dat te complex is. Bias is hier de systematische fout van een te simpel model dat de patronen in de data mist. Variance (variantie) is de fout van een te complex model dat elk toevallig detail van de trainingsdata uit het hoofd leert. Een goed model zit daar tussenin.

Hoe werkt het?

Een model met hoge bias generaliseert te grof en presteert slecht op zowel trainings- als nieuwe data; dat heet underfitting. Een model met hoge variantie scoort uitstekend op de trainingsdata maar zakt door het ijs bij nieuwe data; dat heet overfitting. Vergelijk het met een student: de een leert alleen de hoofdlijnen en zakt voor elk examen (hoge bias), de ander stampt de oude examens letterlijk in het hoofd en faalt zodra de vragen net anders zijn (hoge variantie). Door bias te verlagen stijgt meestal de variantie en andersom, vandaar het woord tradeoff. Datawetenschappers zoeken het optimum met technieken zoals cross-validation, meer trainingsdata en regularisatie (het bewust afremmen van modelcomplexiteit).

Wat heb je eraan als bedrijf?

Voor de meeste bedrijven is dit achtergrondkennis, maar het verklaart een belangrijke valkuil: een model dat in de testfase indrukwekkende scores haalt, kan in de praktijk tegenvallen omdat het overfit was. Vraag bij een AI-leverancier dus altijd hoe het model presteert op nieuwe, ongeziene data en niet alleen op de eigen testset.

Gerelateerde begrippen

De twee uitersten heten underfitting en overfitting. De balans wordt bewaakt met cross-validation, een standaardonderdeel van machine learning. De maatschappelijke betekenis van bias staat onder bias.