Support vector machines (SVM)

Wat zijn support vector machines?

Een support vector machine (SVM) is een klassiek machine learning-algoritme dat vooral wordt gebruikt voor classificatie: het indelen van gegevens in categorieën. Het algoritme zoekt de scheidslijn die twee groepen datapunten zo ruim mogelijk uit elkaar houdt. Stel je twee groepen stippen op papier voor: een SVM trekt niet zomaar een lijn ertussen, maar precies de lijn die aan beide kanten de meeste ruimte overlaat. Daardoor blijven nieuwe gevallen die net iets afwijken toch aan de goede kant terechtkomen.

Hoe werkt het?

In twee dimensies is de scheiding een lijn, in drie een vlak, en bij meer kenmerken een zogeheten hypervlak. De datapunten die het dichtst bij de scheidslijn liggen heten support vectors; zij bepalen waar de lijn komt, vandaar de naam. Zijn de groepen niet met een rechte lijn te scheiden, dan gebruikt een SVM de kerneltruc: de data wordt rekenkundig naar een hogere dimensie getild waarin wel een nette scheiding bestaat. SVM’s kunnen daarnaast ook voor regressie worden gebruikt, al is classificatie de hoofdtoepassing.

Wat heb je eraan als bedrijf?

SVM’s waren tot ongeveer 2015 een topkeuze voor tekstclassificatie en beeldherkenning; voor veel van die taken zijn neurale netwerken nu de standaard. Toch blijven ze relevant: bij kleinere datasets met duidelijke kenmerken, zoals het classificeren van klanten of het detecteren van afwijkende transacties, presteren SVM’s vaak prima tegen lagere kosten en met minder data dan deep learning. Voor de meeste ondernemers is dit vooral nuttige achtergrondkennis bij gesprekken met data-specialisten.

Gerelateerde begrippen

SVM is een algoritme voor supervised learning, met als alternatieven decision trees, random forest en logistische regressie. De hoofdtoepassing is classificatie.