Explainable AI (XAI)

Wat is explainable AI?

Explainable AI (XAI), oftewel uitlegbare AI, gaat over de vraag of je kunt begrijpen en uitleggen waarom een AI-systeem tot een bepaalde uitkomst komt. Veel moderne modellen zijn in feite een black box: ze geven een antwoord, maar de redenering daarachter is niet direct zichtbaar. Explainability is het vakgebied dat die black box opent.

Hoe werkt het?

Er zijn twee routes. De eerste: gebruik modellen die van zichzelf transparant zijn, zoals beslisbomen of lineaire regressie, waarbij je de regels gewoon kunt aflezen. De tweede: leg een complex model achteraf uit met technieken als SHAP en LIME, die per beslissing laten zien welke factoren het zwaarst wogen, bijvoorbeeld “deze leningaanvraag is afgewezen vooral vanwege de betalingsachterstand, niet vanwege de leeftijd”. Bij grote taalmodellen is volledige uitlegbaarheid nog een open onderzoeksvraag; in de praktijk vraag je het model daarom zijn bronnen en redenering te tonen, en controleer je die.

Wat heb je eraan als bedrijf?

Uitlegbaarheid is geen luxe maar steeds vaker een plicht. De AVG geeft mensen recht op betekenisvolle informatie over geautomatiseerde besluiten, en de EU AI Act stelt transparantie-eisen aan hoog-risico-AI, denk aan systemen voor werving, kredietbeoordeling of personeelsbeslissingen. Daarnaast is het simpelweg goed ondernemerschap: een klant die hoort waarom zijn aanvraag is afgewezen, en een medewerker die snapt waarom het systeem iets adviseert, vertrouwen het systeem meer en spotten fouten sneller.

Gerelateerde begrippen

Explainability hangt nauw samen met interpretability en is een pijler van responsible AI. Het helpt ook bij het opsporen van bias in een model.

Wat de EU AI Act precies van je vraagt lees je op de pagina over AI Act compliance.