Explainable AI (XAI), in het Nederlands uitlegbare AI, maakt zichtbaar waarom een AI-systeem tot een bepaalde uitkomst komt. Een gewoon systeem meldt bijvoorbeeld alleen dat een kredietaanvraag is afgewezen. Een uitlegbaar systeem vertelt er ook bij welke gegevens dat besluit bepaalden en wat de uitkomst had veranderd.
Wat is explainable AI (XAI)?
Explainable AI is geen apart soort AI. Het is een verzameling methoden die laat zien hoe een AI-systeem tot een uitkomst komt. XAI staat voor eXplainable Artificial Intelligence. Het doel is dat mensen een AI-besluit kunnen begrijpen, controleren en zo nodig aanvechten.
Vergelijk het met een arts. Een goede arts zegt niet alleen dat je een ontsteking hebt, maar ook waarom: de koorts, de bloedwaarden en de plek van de pijn. Explainable AI vraagt hetzelfde van een computer.
Black box versus explainable AI
Het deel van een AI-systeem dat de beslissing neemt, heet het model. Veel krachtige modellen zijn een black box, een zwarte doos. Er gaan gegevens in en er komt een antwoord uit, maar wat er tussendoor gebeurt, zie je niet. Zelfs de makers kunnen vaak niet zeggen waarom één uitkomst zo uitviel.
Neem een bank die kredietaanvragen door AI laat beoordelen. Een black box zegt alleen: afgewezen. Een uitlegbaar systeem geeft de redenen erbij, bijvoorbeeld dat de aflossingen te hoog zijn in verhouding tot het inkomen. Explainable AI is de laag erbovenop die het besluit controleerbaar maakt.
Wat is het verschil tussen AI, generatieve AI en explainable AI?
Traditionele AI voorspelt of beoordeelt, generatieve AI maakt nieuwe inhoud en explainable AI maakt de werking van allebei begrijpelijk.
Traditionele AI: voorspellen en beoordelen
Traditionele AI leert patronen uit voorbeelden uit het verleden en gebruikt die om iets te voorspellen of in te delen. Denk aan een spamfilter, een bank die inschat of iemand een lening kan terugbetalen of een streamingdienst die series aanraadt. Juist bij besluiten over mensen en geld wil je weten waarom.
Generatieve AI: nieuwe inhoud maken
Generatieve AI maakt zelf nieuwe inhoud, zoals tekst, afbeeldingen of computercode. Je geeft een opdracht in gewone taal, een prompt, en het systeem schrijft een antwoord of maakt een afbeelding.
Wat zijn LLM’s en AI-chatbots?
De bekendste vorm van generatieve AI is het taalmodel, in het Engels large language model of LLM. Een LLM heeft enorm veel tekst gelezen en daaruit geleerd welke woorden meestal op elkaar volgen. Het weet alleen niet wat waar is. Daarom zegt het soms overtuigend dingen die niet kloppen, zogenoemde hallucinaties.
Een AI-chatbot is het programma waarmee je via een chatvenster met zo’n taalmodel praat. Je kunt het taalmodel zien als de motor en de chatbot als de auto eromheen. Bekende chatbots zijn ChatGPT van OpenAI, Claude van Anthropic en Grok van xAI, het AI-bedrijf van Elon Musk.
Explainable AI: de uitleg bij allebei
Explainable AI is geen derde soort AI. Het is een aanpak die je toepast op traditionele en op generatieve AI. De vraag is steeds: kunnen we laten zien hoe het systeem tot deze uitkomst kwam?
Waarom is explainable AI belangrijk?
Explainable AI is belangrijk omdat AI steeds vaker beslissingen over mensen en geld neemt of beïnvloedt. Een beslissing die niemand kan uitleggen, kun je niet controleren, corrigeren of verdedigen. De belangrijkste voordelen op een rij:
- Het vindt fouten die je aan de scores niet ziet. In het onderzoek waarin LIME werd geïntroduceerd, lieten onderzoekers een model zien dat wolven en husky’s (honden die op wolven lijken) uit elkaar leek te houden. In werkelijkheid keek het naar sneeuw op de achtergrond. De uitleg liet die denkfout in één oogopslag zien.
- Het maakt vooroordelen zichtbaar. In de toeslagenaffaire gebruikte de Belastingdienst nationaliteit als signaal in een systeem dat aanvragen automatisch als risicovol aanmerkte. De Autoriteit Persoonsgegevens gaf daarvoor in 2021 een boete van 2,75 miljoen euro, vanwege het discriminerende gebruik van nationaliteit. Uitleg per gegeven maakt zo’n afhankelijkheid zichtbaar.
- Het zorgt voor terecht vertrouwen. Mensen accepteren een advies sneller als ze het kunnen volgen. Dezelfde uitleg laat ook zien wanneer het model iets niet goed weet.
- Het helpt om aan de wet te voldoen. De AVG, de Europese privacywet, en de AI-verordening verplichten organisaties om automatische besluiten uit te leggen aan de mensen die ermee te maken krijgen.
- Het versnelt de goedkeuring. Risicomanagers, juristen en managers kunnen de logica van een model zelf beoordelen, in plaats van die op goed vertrouwen aan te nemen.
Hoe werkt explainable AI?
Begrijpelijk vanaf het begin of uitleg achteraf
Er zijn twee manieren om AI uitlegbaar te maken. De eerste is een eenvoudig model kiezen dat je zelf kunt volgen. Denk aan een beslisboom: een reeks ja-of-nee-vragen, zoals ‘is het inkomen hoger dan € 3.000?’. Zo’n model heet ook wel een glass box. Je ziet direct hoe het tot een besluit komt.
De tweede is een complex model achteraf onderzoeken: je verandert steeds een klein stukje van de gegevens en kijkt hoe de uitkomst meebeweegt. Dat werkt bij elk model, maar je kijkt van buitenaf.
Het hele model of één besluit
Uitleg kan over het hele model gaan: waar let het in het algemeen op? Dat willen ontwikkelaars weten. Uitleg kan ook over één besluit gaan: waarom is juist deze aanvraag afgewezen? Dat wil de potentiële klant weten.
Welke methoden gebruikt explainable AI?
Er bestaan tientallen XAI-methoden. De tabel zet de bekendste op een rij.
| Methode | Gaat over | Werkt met | Handig voor | Let op |
|---|---|---|---|---|
| SHAP | Eén besluit en het hele model | Elk model | Per besluit het gewicht van elk gegeven | Hangt af van de vergelijkingsgroep |
| LIME | Eén besluit | Elk model, ook tekst en beeld | Snelle controles | Uitleg kan per keer iets verschillen |
| Permutation feature importance | Het hele model | Elk model | Zien op welke gegevens het model leunt | Misleidend als gegevens sterk op elkaar lijken |
| Partial dependence- en ICE-plots | Het hele model | Elk model | Effect van één gegeven op de uitkomst | Gemiddelde kan verschillen verbergen |
| Counterfactuals | Eén besluit | Elk model | Iemand vertellen wat de uitkomst had veranderd | Moet realistisch en haalbaar zijn |
| Saliency maps (Grad-CAM) | Eén besluit | Beeldmodellen | Zien waar het model in een afbeelding keek | Kan overtuigend ogen zonder te kloppen |
| Leesbare modellen (beslisbomen, scorekaarten, EBM’s) | Eén besluit en het hele model | Verklaren zichzelf | Belangrijke besluiten over mensen | Soms iets minder nauwkeurig |
SHAP: hoeveel elk gegeven meewoog
SHAP begint bij het gemiddelde, bijvoorbeeld 73% kans op goedkeuring. Daarna zie je per gegeven hoeveel het die kans omhoog of omlaag duwt.
LIME: wat telde voor dit ene besluit
LIME verandert telkens een klein beetje aan één aanvraag en kijkt hoe het antwoord verandert. Zo ziet het welke gegevens voor dit ene besluit het zwaarst wogen.
Feature importance: waar het model het meest op let
Feature importance laat zien waar het model in het algemeen het meest op let. Partial dependence- en ICE-plots laten daarnaast zien hoe de uitkomst verandert als één gegeven verandert, zoals het inkomen.
Counterfactuals: wat de uitkomst had veranderd
Een counterfactual is een wat-als-uitleg: de kleinste verandering waardoor het besluit anders was uitgevallen. Bijvoorbeeld: met lagere aflossingen was de lening goedgekeurd.
Saliency maps: waar een beeldmodel naar keek
Een saliency map is een hittekaart op een afbeelding, bijvoorbeeld een röntgenfoto. De gekleurde plekken laten zien waar het model keek. Een bekende methode is Grad-CAM. Let op: zo’n kaart kan overtuigend ogen zonder te kloppen.
Voorbeelden van explainable AI
Bekende voorbeelden zijn een bank die uitlegt waarom een kredietaanvraag is afgewezen, een ziekenhuismodel dat laat zien welke bloedwaarden een risicoscore verhoogden en een chatbot die bij elk antwoord zijn bronnen noemt.
Een kredietaanvraag stap voor stap
Stel: een bank laat AI beoordelen of iemand een lening krijgt. Wij bouwden zo’n model met 30.000 verzonnen aanvragen. Het kijkt naar zes dingen: de schuldquote (welk deel van het inkomen naar aflossingen gaat), gemiste betalingen, jaren bij de werkgever, inkomen, leenbedrag en postcode. Bij 50% kans of meer krijg je de lening.
Stap 1: Waar let het model op?
De schuldquote telt verreweg het zwaarst, daarna gemiste betalingen. Postcode en leenbedrag doen er nauwelijks toe. Had de postcode bovenaan gestaan, dan was dat een alarmsignaal.
Stap 2: Waarom werd deze aanvraag afgewezen?
Neem iemand die netto € 3.900 per maand verdient, een schuldquote van 48% heeft, één keer een betaling miste en € 18.000 wil lenen. Het model geeft 25% kans, dus de aanvraag wordt afgewezen. De tabel laat zien hoeveel elk gegeven de kans veranderde, vanaf het gemiddelde van 73%:
| Gegeven (waarde van de aanvraag) | Effect op de kans (procentpunten) |
|---|---|
| Startpunt: gemiddelde aanvraag | 73% |
| Schuldquote (48%) | -25 |
| Gemiste betalingen (1) | -13 |
| Postcodegebied | -7 |
| Jaren bij werkgever (1,5) | -4 |
| Leenbedrag (€ 18.000) | -3 |
| Netto maandinkomen (€ 3.900) | +4 |
| Kans voor deze aanvraag | 25% (afgewezen) |
/image
De schuldquote en de gemiste betaling wegen het zwaarst. Opvallend is de postcode, die in zijn eentje 7 punten kost.
Stap 3: Wat had het besluit veranderd?
Met een schuldquote van 32% in plaats van 48% stijgt de kans naar 54%, en wordt de lening goedgekeurd. Daar kan de potentiële klant zelf iets aan doen, door schulden af te lossen of minder te lenen.
Stap 4: Klopt de uitleg wel?
Ook een uitleg kan fout zijn. Controleer hem daarom met een tweede methode, zoals LIME. Kijk ook kritisch naar de postcode, want die kan iets zeggen over inkomen of afkomst. Mag die wel meewegen?
Stap 5: Hoe vertel je het de klant?
De potentiële klant heeft niets aan grafieken, maar wel aan twee of drie redenen in gewone taal. Bijvoorbeeld: ‘Uw aanvraag is afgewezen, vooral omdat uw aflossingen hoog zijn in verhouding tot uw inkomen en omdat er een betaling is gemist. Met een schuldquote van ongeveer 32% of lager wordt een aanvraag van deze omvang naar verwachting goedgekeurd.’
Explainable AI in de zorg en geneeskunde
Een model dat de kans op een ernstige infectie (sepsis) inschat, kan laten zien welke bloedwaarden die kans verhoogden. Zo kan een arts zelf beoordelen of het advies klopt. Zo’n model moet wel eerst bewezen hebben dat het betrouwbaar is.
De rol van XAI in zakelijke besluitvorming
Voor organisaties is uitleg vooral nuttig voordat een model in gebruik gaat: let het op zinnige gegevens, of op iets toevalligs zoals een klantnummer? Per sector verschilt waar uitleg het meest telt:
| Sector | Waar het om gaat | Waarom uitleg nodig is |
|---|---|---|
| Banken en financiële dienstverlening | Kredietbeoordeling en fraudedetectie | Klanten hebben recht op een reden bij een afwijzing |
| Verzekeringen | Schadeclaims en premies | Een afgewezen claim moet je kunnen onderbouwen |
| Zorg | Risicoscores en het beoordelen van scans | Een arts moet het advies kunnen toetsen |
| Overheid en gemeenten | Toeslagen, uitkeringen en fraudesignalen | Burgers moeten een besluit kunnen begrijpen en aanvechten |
| HR en werving | Selectie van sollicitanten | Discriminatie voorkomen en voldoen aan strenge AI-regels |
| Industrie | Voorspellend onderhoud en kwaliteitscontrole | Monteurs vertrouwen een melding sneller als ze zien waarom |
Explainable AI bij generatieve AI, LLM’s en chatbots
Bij chatbots is uitleg lastiger. Vraag en antwoord zijn gewone tekst, en het model erachter rekent met miljarden getallen.
Is ChatGPT explainable AI?
Nee. ChatGPT is generatieve AI en grotendeels een black box. Dat geldt ook voor Claude en Grok. Ook als een chatbot zijn antwoord toelicht, is dat gewoon tekst die het model maakt, en geen verslag van wat er binnenin gebeurde.
Zo maak je LLM’s en chatbots beter uitlegbaar
Je kunt een chatbot wel beter controleerbaar maken, meestal op drie manieren:
- Laat de chatbot bij elk antwoord noemen waar de informatie vandaan komt, zodat je het zelf kunt nalopen.
- Houd bij welke vragen er zijn gesteld en welke documenten de chatbot erbij zocht.
- Laat de chatbot zijn denkstappen tonen. Dat is geen garantie. In een onderzoek van Anthropic uit 2025 kreeg Claude 3.7 Sonnet een hint naar het antwoord. Als het die hint gebruikte, noemde het dat in zijn denkstappen maar in 25% van de gevallen.
ChatGPT, Claude en Grok vergeleken
Geen van deze chatbots is van zichzelf explainable AI, maar ze verschillen in wat ze laten zien (stand oktober 2026):
| Chatbot | Noemt bronnen | Toont denkstappen | Openheid over werking |
|---|---|---|---|
| ChatGPT (OpenAI) | Ja, als hij op internet of in je bestanden zoekt | Een samenvatting | Publiceert een openbaar document over hoe de modellen zich horen te gedragen |
| Claude (Anthropic) | Ja, als hij op internet of in je bestanden zoekt | Een samenvatting | Publiceert de vaste instructies die Claude in de apps meekrijgt |
| Grok (xAI) | Ja, als hij op internet of op X zoekt | Tussenstappen in de denkmodus | Publiceert sinds mei 2025 de vaste instructies die Grok meekrijgt |
De verschillen zijn klein. De inrichting telt het zwaarst.
De grenzen van explainable AI
Uitleg helpt, maar heeft ook vier valkuilen.
Uitleg is niet altijd betrouwbaar
Verschillende methoden geven soms een andere uitleg voor hetzelfde besluit. Ook kun je SHAP en LIME misleiden, zodat een oneerlijk model eerlijk lijkt.
Verband is geen oorzaak
Uitleg laat zien waar het model op let, niet wat in het echte leven iets veroorzaakt. Koppelt het model kort werken bij een werkgever aan betalingsproblemen, dan word je niet kredietwaardiger door minder vaak van baan te wisselen.
Uitleg kan mensen op het verkeerde been zetten
In een studie uit 2021 volgden mensen een AI-advies vaker als er uitleg bij stond, ook als het advies fout was.
Uitlegbaar is niet hetzelfde als eerlijk of juist
Een model kan zijn besluiten heel goed uitleggen en toch oneerlijk zijn. Of er eerlijk en juist wordt beslist, moet je apart controleren.
Wat zegt de AI-verordening over explainable AI?
De AVG, de Europese privacywet, geeft mensen nu al recht op uitleg als een computer automatisch over hen beslist. Volgens een uitspraak van het Europese Hof uit 2025 moet die uitleg begrijpelijk zijn. Alleen de formule of de code geven is niet genoeg.
De AI-verordening, de Europese AI-wet, stelt extra eisen aan AI met een hoog risico, zoals AI die sollicitanten selecteert of kredietaanvragen beoordeelt. Zulke systemen moeten begrijpelijk zijn en onder menselijk toezicht staan. Volgens artikel 86 hebben betrokkenen recht op uitleg.
Door een wetswijziging in 2026, de Digitale Omnibus, gelden deze eisen vanaf 2 december 2027, en voor AI in medische apparatuur en andere gereguleerde producten vanaf 2 augustus 2028. In ons artikel over de risicoclassificatie in de AI-verordening lees je of jouw systeem eronder valt.
Explainable AI toepassen: best practices
Deze zeven werkwijzen voorkomen het meeste van wat in de praktijk misgaat:
- Bepaal per doelgroep wat een uitleg moet opleveren, voordat je een model kiest.
- Test bij belangrijke besluiten, bijvoorbeeld over klanten, eerst een leesbaar model. Stap alleen over op een black box als die duidelijk beter is.
- Combineer een methode voor het hele model, zoals feature importance, met een methode per besluit, zoals SHAP of een counterfactual.
- Controleer de uitleg: draai hem opnieuw met andere vergelijkingsgegevens en vergelijk methoden.
- Meet ook of het model groepen eerlijk behandelt, en kijk kritisch naar gegevens die indirect iets verraden, zoals de postcode.
- Leg elk besluit vast met de gebruikte gegevens, de modelversie en de uitleg.
- Test de uitleg met de mensen die ermee moeten werken, en houd een mens verantwoordelijk voor besluiten met gevolgen.
Conclusie
Explainable AI laat zien welke gegevens een besluit bepaalden, hoe zwaar ze wogen en wat de uitkomst had veranderd. Het is geen apart soort AI, maar een aanpak voor traditionele AI en voor chatbots zoals ChatGPT, Claude en Grok. Onthoud wel dat een uitgelegd besluit nog geen eerlijk besluit is.
DataNorth helpt in elke fase. Met een AI Ethiek & Bias Assessment controleren we of een bestaand model verborgen oneerlijke patronen bevat. Een EU AI-verordening assessment laat zien in welke risicoklasse je systeem valt. Met advies over explainable AI kies je de juiste aanpak, en we ontwikkelen ook AI-systemen met uitleg en menselijk toezicht vanaf het begin ingebouwd.
Neem contact op om je situatie te bespreken.
Veelgestelde vragen over explainable AI (FAQ)
Wat is het belangrijkste doel van explainable AI?
Mensen AI-uitkomsten goed genoeg laten begrijpen om ze terecht te vertrouwen. Wie met een AI-besluit te maken krijgt, moet de belangrijkste redenen kunnen zien, kunnen beoordelen of ze kloppen en de uitkomst kunnen aanvechten.
Waarvoor wordt explainable AI gebruikt?
Om modellen te controleren voordat ze in gebruik gaan, vooroordelen op te sporen en besluiten uit te leggen aan klanten en medewerkers. Ook ondersteunt het experts zoals artsen en kredietbeoordelaars, en helpt het organisaties om aan de wettelijke uitlegplicht te voldoen.
Wat is het verschil tussen SHAP en LIME?
SHAP verdeelt een uitkomst precies over de gegevens. De bijdragen tellen op tot het eindresultaat en zijn tussen gevallen te vergelijken. LIME bootst het model na rond één besluit. Dat is sneller, maar minder stabiel. Bij klant- en aanvraaggegevens is SHAP meestal de standaardkeuze. LIME is handig voor snelle controles op tekst en beeld.
Kan ChatGPT zijn eigen antwoorden uitleggen?
Slechts gedeeltelijk. Chatbots kunnen een antwoord toelichten en bronnen noemen, maar die toelichting is geen gegarandeerde weergave van hoe ze tot het antwoord kwamen. Vertrouw bij zakelijke besluiten daarom op controleerbare bronnen en logboeken.
Wat is het verschil tussen uitlegbaar, interpreteerbaar en transparant?
Transparant betekent dat je weet hoe een systeem in elkaar zit. Interpreteerbaar betekent dat je de redenering zelf kunt volgen, zoals bij een beslisboom. Uitlegbaar is het breedst: het systeem kan laten zien waarom het tot een uitkomst kwam, ook als je de binnenkant niet kunt volgen.
Is explainable AI verplicht?
Deels. De AVG geeft mensen nu al recht op uitleg bij automatische besluiten. Voor AI met een hoog risico komen er vanaf 2 december 2027 extra eisen bij uit de AI-verordening.
Maakt explainable AI een model minder nauwkeurig?
Niet per se. Uitleg achteraf verandert niets aan het model zelf. Kies je een eenvoudiger model dat je direct kunt lezen, dan lever je soms iets aan nauwkeurigheid in. Volgens onderzoeker Cynthia Rudin van Duke University valt dat verschil vaak mee.
Welke tools gebruik je voor explainable AI?
Veelgebruikte gratis tools zijn de Python-pakketten SHAP en LIME, scikit-learn voor feature importance en partial dependence, InterpretML van Microsoft voor leesbare modellen, DiCE voor counterfactuals, Captum voor PyTorch-modellen en Fairlearn om eerlijkheid te meten.
Is explainable AI hetzelfde als verantwoorde AI?
Nee. Explainable AI is één onderdeel van verantwoorde AI. Daarbij horen ook eerlijkheid, privacy, veiligheid en menselijk toezicht.
