Weten wat je niet weet, 3 misvattingen over AI

Ik heb het geluk dat iemand in mijn directe omgeving expert is in AI en daardoor leer ik sneller dan ik in mijn eentje ooit zou doen. Zij laat me zien wat een goed gestelde vraag oplevert: hoe je met de juiste prompt binnen een paar minuten tien invalshoeken op tafel krijgt die ik zelf niet had bedacht. Voor iemand die houdt van brainstormen, van alle kanten naar een vraagstuk kijken, voelt dat als een cadeau.
Maar hoe meer ik leer, hoe meer ik ook drie misvattingen tegenkom bij mezelf, en bij bijna iedereen die ik erover spreek.

De eerste misvatting is dat AI objectief zou zijn. Dat idee is hardnekkig, en ook wel begrijpelijk: een algoritme rekent, het oordeelt niet, dus het lijkt neutraler dan een mens met zijn buikgevoel. Maar een taalmodel leert van teksten en beelden die wij als mensheid hebben gemaakt, met al onze aannames erin. Een onderzoeker uit Oxford liet dat op indringende wijze zien: hij vroeg een beeldgenerator expliciet om een Afrikaanse arts met een donkere huidskleur die zieke witte kinderen behandelt. Wat er ook uitkwam: een witte arts die donkere kinderen behandelt. Zelfs met de meest gerichte prompts kregen hij en zijn collega's het niet omgedraaid. Niet omdat het systeem kwaadaardig is, maar omdat het optelt wat het vaakst voorkomt. En "wat het vaakst voorkomt" is nooit neutraal. Het is een afspiegeling van wie het meest heeft geschreven, gefotografeerd, gepubliceerd.

Diezelfde hang naar het gemiddelde zag ik onlangs terug in een heel ander verband: de roze voetbalschoenen van dit WK. Heb jij je ook afgevraagd waar dit opeens vandaan kwam? In een NRC artikel las ik dat bijna elk groot merk met ongeveer dezelfde kleur kwam, en de verklaring was dat de ontwerpteams allemaal AI gebruikt hadden om te voorspellen wat dé kleur van 2026 zou worden. Ieder merk deed precies wat gevraagd werd: slim gebruik van data. En het collectieve resultaat was een eenheidsworst. Dat is denk ik de kern van waar we ons nog te weinig van bewust zijn: AI is heel goed in het vinden van het meest waarschijnlijke antwoord, en juist daardoor slecht in het bewaren van variatie tenzij wij daar zelf tegenin sturen.

De tweede misvatting hoor ik vaak in de context van werving en selectie en mensen die oprecht inclusief willen zijn: "Ik gebruik AI om sneller een voorselectie te maken, dat is toch objectiever dan een mens die op onderbuikgevoel afgaat." Het risico op bevooroordeelde uitkomsten is bij AI echter niet kleiner dan bij mensen, het is juist groter, en wel om twee redenen. 

Ten eerste gaat het om schaal: waar één onbewuste bevooroordeelde recruiter een handvol kandidaten treft, selecteert één bevooroordeeld selectiemodel honderden, consequent, zonder dat het opvalt. Een treffend Nederlands voorbeeld: DUO kwam een paar jaar geleden in het nieuws omdat het algoritme dat fraude onder studenten moest opsporen, stelselmatig studenten met een migratieachtergrond als verdacht bestempelde. Niet doordat het algoritme op etniciteit stuurde, maar doordat een schijnbaar neutraal kenmerk "woont in bij een familielid" toevallig sterk samenhing met die groep, zonder dat het iets zei over daadwerkelijke fraude. Dat heet indirecte discriminatie, en het is precies het soort mechanisme dat in wervingsalgoritmes evengoed kan optreden: niet expliciet sturen op geslacht of afkomst, maar op kenmerken die daar toevallig sterk mee samenhangen. Ten tweede is er wat onderzoekers "overreliance" noemen: omdat de uitkomst zo stellig en "berekend" oogt, gaan mensen sneller geloven dat het wel zal kloppen, en durven ze minder snel tegen de uitkomst in te gaan. Precies dat grote vertrouwen maakt de bias moeilijker te corrigeren dan wanneer dezelfde fout door een mens was gemaakt. 

De derde misvatting is misschien wel de ingewikkeldste, omdat het zo verleidelijk eenvoudig lijkt: dat de oplossing zou zijn om AI dan maar niet te gebruiken. De echte opgave is niet afschaffen, maar de tijd nemen om te begrijpen hoe deze systemen tot hun antwoorden komen, en welke aannames daarin verstopt zitten. De vooroordelen en versimpelingen die we in onze trainingen al jaren bespreken, nu vermomd als code. Wie zich eenmaal bewust is van hoe die mechanismen werken, heeft daarmee vaak al het grootste deel van de oplossing in handen. Die kan een weloverwogen besluit nemen hoe hiermee om te gaan. Dat is dus geen technische taak voor de IT-afdeling, het is een leiderschapsopgave. Vaardigheden die het verschil kunnen maken: kunnen vertragen voordat je gelooft, doorvragen voordat je aanneemt, jezelf afvragen of iets waar is omdat het klopt, of omdat het overtuigend klonk.

Dit weloverwogen en ruimer waarnemen is een van de competenties waar ik in mijn boek Ontwikkel je Inclusieve Mindset, dat begin 2027 uitkomt, verder op inga. Dat waarnemen - echt, kritisch, vertraagd waarnemen - de eerste stap is voordat je iets besluit dat grote impact heeft op mensen of vastgezet wordt in systemen. AI maakt dit mensenwerk niet overbodig. Het maakt het juist urgenter.

Met dank aan het handboek "Ethiek van ChatGPT" van Koen Vermissen en Ajuna Soerjadi (Expertisecentrum Data-Ethiek, 2023) voor een aantal van de hierboven aangehaalde voorbeelden en onderzoeken.