Discriminative Models

Wat zijn discriminative models?

Discriminative models (discriminatieve modellen) zijn machine learning-modellen die leren onderscheid te maken tussen categorieën. Ze modelleren direct de grens tussen klassen: gegeven deze kenmerken, hoe groot is de kans dat dit spam is, dat deze klant vertrekt, dat deze transactie frauduleus is? Ze vormen het spiegelbeeld van generatieve modellen, die niet alleen onderscheiden maar ook nieuwe data kunnen voortbrengen.

Hoe werkt het?

Een discriminatief model leert uit voorbeelden de directe relatie tussen invoer en uitvoerlabel, wiskundig genoteerd als P(y|x): de kans op uitkomst y gegeven invoer x. Een spamfilter hoeft niet te weten hoe een typische e-mail eruitziet; het hoeft alleen te leren welke kenmerken spam van geen-spam scheiden. Dat maakt deze modellen vaak eenvoudiger te trainen en nauwkeuriger voor pure classificatietaken. Bekende voorbeelden zijn logistic regression, support vector machines, decision trees en de meeste neurale netwerken voor classificatie.

Discriminatief versus generatief

Een generatief model leert de volledige verdeling van de data en kan daardoor nieuwe voorbeelden genereren; denk aan de modellen achter tekst- en beeldgeneratie. Een discriminatief model kan dat niet, maar trekt wel vaak scherpere grenzen tussen klassen. Een handige analogie: een discriminatief model leert twee talen uit elkaar te houden aan accentverschillen, een generatief model leert beide talen daadwerkelijk spreken.

Wat heb je eraan als bedrijf?

Veel praktische bedrijfs-AI is discriminatief: e-mails routeren, facturen categoriseren, churnrisico inschatten, defecten herkennen. Niet elke AI-vraag heeft dus een generatief model nodig; voor classificatie van gestructureerde bedrijfsdata zijn discriminatieve modellen vaak goedkoper, sneller en beter controleerbaar.

Gerelateerde begrippen

De tegenhanger zijn generative models, zoals de GAN. Discriminatieve modellen worden getraind via supervised learning voor taken als classification.