Waarom je 'Systeem 2' de beste firewall is tegen bias

 

Bij Colourful Development zijn we fan van innovatie, het is ook een van onze waarden. We zien hoe generatieve AI (zoals chatGPT of Claude) drempels verlaagt, informatie democratiseert en ons helpt om sneller tot de kern te komen. Maar als trainingsbureau voor cultuur en leiderschap zien we ook een risico dat parallel loopt aan de risico’s op de werkvloer. Namelijk de snelheid waarmee we soms ons 'Systeem 2,' het deel van het brein dat logisch nadenkt, uitschakelen en blind varen op algoritmes.

De blinde vlek van de machine

GenAI is in feite een razendsnelle spiegel van ons verleden. Het systeem leert van data die wij als mensen hebben geproduceerd, inclusief al onze bewuste en onbewuste vooroordelen. En dat leidt dan weer tot hardnekkige bias (onbewuste voorkeuren).

Vraag je een genAI naar de topscorer aller tijden in het voetbal? Dan rolt er een mannennaam uit, terwijl het feitelijke antwoord een vrouw is (Christine Sinclair). Maar deze bias werkt twee kanten op. Vraag je om een profiel van de 'ideale basisschooldocent'? Dan kleurt de output vaak overwegend vrouwelijk. Hierdoor worden achterhaalde genderstereotypen in stand gehouden.

Samen op onderzoek

Wij hebben niet de antwoorden; we zijn zelf volop aan het ontdekken hoe we deze tools verantwoord kunnen inzetten. Wat we wel weten: echte innovatie zit niet in de output van de machine, maar in de kwaliteit van onze eigen vragen en het blijven inzetten op het vergroten van onze zelfkennis en bewustwording.

Daarom integreren wij aandacht voor bias in AI in al onze cultuur- en leiderschapstrainingen. We leren leiders om hun Systeem 2 weer en meer aan te zetten. Want de machine en het algoritme is gebouwd, wordt onderhouden en gevoed door mensen. Wij mensen bepalen wat we ermee willen en doen.

3 Tips om direct inclusiever om te gaan met GenAI

Wil je vandaag nog je eigen 'Systeem 2' activeren en dus logisch, kritisch en doordacht werken? Gebruik deze drie tips bij je volgende prompt:

  1. Vraag expliciet naar het nog onzichtbare: Krijg je een lijst met experts die allemaal mannelijk of Europees zijn? Daag de AI uit: "Geef me vijf experts op dit gebied met een vrouwelijke of niet-europese achtergrond."
  2. PRO-TIP Programmeer je eigen bias-coach: Stel in je AI-profiel (bij 'Custom Instructions' of 'Custom GPT') in dat de AI na elk antwoord drie kritische bias vragen moet stellen. Bijvoorbeeld: "Welke perspectieven ontbreken in dit antwoord?" of "Welke aannames over gender of etniciteit zitten hieronder?" Zo traint de AI ook jóú om te blijven nadenken en scherp te blijven.
  3. De 'Wie ontbreekt er?'-check: Voordat je een AI-tekst publiceert of een besluit neemt op basis van AI-data, stel jezelf de vraag: "Welk perspectief wordt hier als 'norm' gepresenteerd en wie wordt daardoor onbedoeld uitgesloten?"
     

Versterk je bias-bewustzijn in het AI-tijdperk

Onze cultuur- en leiderschapstrainingen zijn geactualiseerd met de nieuwste inzichten over AI en menselijke psychologie. Bekijk ons aanbod of neem direct contact op voor een orienterend gesprek.