Bias

Wat is bias in AI?

Bias is een systematische scheefheid in een AI-systeem waardoor het structureel onjuiste of oneerlijke uitkomsten geeft. Het woord wordt in twee betekenissen gebruikt. In maatschappelijke zin gaat het om vooringenomenheid: een model dat bepaalde groepen mensen benadeelt. In technische zin is bias de fout van een model dat te simpel is om de patronen in de data te vatten (zie de bias-variance tradeoff). In dit lemma gaat het om de eerste betekenis, want die raakt elk bedrijf dat AI gebruikt.

Hoe ontstaat het?

Meestal via de trainingsdata. Een model leert van voorbeelden, en als die voorbeelden scheef zijn, leert het model de scheefheid mee. Een bekend praktijkvoorbeeld: een sollicitatietool die getraind is op historische aannamedata waarin vrouwen ondervertegenwoordigd waren, gaat vrouwelijke kandidaten lager scoren. Bias kan ook ontstaan door onvolledige datasets (gezichtsherkenning die slechter werkt bij donkere huidskleuren), door de keuze van kenmerken die het model meeweegt, of door hoe mensen de uitkomsten interpreteren.

Wat heb je eraan als bedrijf?

Dit is geen academisch detail maar een concreet risico. De EU AI Act stelt eisen aan AI bij werving, beoordeling en klantselectie, juist vanwege bias, en de AVG verbiedt al langer ongerechtvaardigd onderscheid. Praktisch: vraag leveranciers hoe hun model getest is op bias, laat een mens meekijken bij besluiten over personen, en controleer steekproefsgewijs of uitkomsten voor verschillende groepen vergelijkbaar zijn. Volledig biasvrij bestaat niet, maar aantoonbaar je best doen wel.

Gerelateerde begrippen

Bias hangt samen met de kwaliteit van data labelling en trainingsdata in machine learning. Wie wil begrijpen waarom een model beslist wat het beslist, komt uit bij explainable AI. De technische betekenis vind je onder bias-variance tradeoff.