Interpretability

Wat is interpretability?

Interpretability (interpreteerbaarheid) is de mate waarin mensen kunnen begrijpen waarom een AI-model tot een bepaalde uitkomst komt. Een interpreteerbaar model laat zien welke factoren een beslissing bepaalden: waarom werd deze leningaanvraag afgewezen, waarom kreeg deze e-mail het label spam. Hoe complexer het model, hoe lastiger dat meestal wordt; grote neurale netwerken worden daarom vaak “black boxes” genoemd.

Hoe werkt het?

Er zijn twee routes naar interpreteerbaarheid. De eerste is een model kiezen dat van zichzelf begrijpelijk is, zoals een beslisboom of lineaire regressie: je kunt de regels letterlijk nalezen. De tweede is een complex model achteraf uitleggen met speciale technieken die per voorspelling laten zien welke kenmerken het zwaarst meewogen. Die tweede aanpak heet meestal explainability. De begrippen overlappen, maar strikt genomen gaat interpretability over modellen die je direct kunt doorgronden en explainability over uitleg achteraf.

Wat heb je eraan als bedrijf?

Zodra AI beslissingen neemt die mensen raken, zoals kredietbeoordeling, sollicitantenselectie of fraudedetectie, moet je kunnen uitleggen hoe die beslissingen tot stand komen. De EU AI Act stelt voor hoog-risicotoepassingen eisen aan transparantie, en de AVG geeft mensen rechten rond geautomatiseerde besluitvorming. Interpreteerbare modellen maken het ook makkelijker om fouten en vooroordelen op te sporen voordat ze schade aanrichten. Praktische vuistregel: hoe groter de impact van een beslissing, hoe belangrijker het is dat je het model kunt uitleggen.

Gerelateerde begrippen

Interpretability hangt nauw samen met explainable AI en is een pijler van responsible AI. Het speelt vooral bij complexe modellen uit deep learning, en helpt bij het opsporen van bias.