De morele slaap van de algoritme-gebruiker

Herken je dit? Je zit in een vergadering over een nieuw AI-systeem en iemand vraagt: "Maar hoe weten we eigenlijk of dit eerlijk uitpakt?" Even is het stil. Dan volgt een verwijzing naar de leverancier. Of naar de juridische afdeling. Of de geruststellende opmerking dat het systeem 'gevalideerd is op de data.' Ik zie dit moment keer op keer. En elke keer treft het me, omdat er iets wezenlijks in zit. We leven in een tijd waarin organisaties vol goede bedoelingen AI inzetten, maar de vraag wíé er baat bij heeft en wie er last van krijgt, zelden hardop wordt gesteld. Niet uit onwil. Maar omdat niemand precies weet wie die vraag zou moeten beantwoorden.

Een persoonlijk vertrekpunt: context bepaalt gedrag

Al geruime tijd ben ik gefascineerd door de macht van context op besluit- en meningsvorming. Die fascinatie begon lang voor AI het gesprek domineerde. In 2004 schreef ik mijn thesis voor mijn Master of Arts (HKU) over de invloed van de museale omgeving op de kwaliteit van digitale interacties die bezoekers daar hadden. Voor het Kröller-Müller museum ontwierp ik de 'Opinio': een fysieke installatie die onderzocht in hoeverre mensen hun eigen mening over een kunstwerk lieten beïnvloeden door de meningen van anderen. De vraag achter die installatie was even simpel als ongemakkelijk:

“Denk je echt zelf, of volg je wat de omgeving je aanreikt?.”

De fysieke context, de daarin geldende normen en waarden, en het waarneembare gedrag van anderen bepalen voor een groot deel ons eigen gedrag, ons verantwoordelijkheidsbesef en onze meningsvorming. We denken dat we als individu opgewassen zijn tegen die druk. Maar dat is knap lastig, en de wetenschap laat al decennialang zien dat we onszelf daarin systematisch overschatten.

Wat voor museumzalen geldt, geldt net zo goed voor de digitale omgevingen die we nu bouwen. Ook AI-systemen zijn contexten die gedrag vormen en oordelen sturen. Het verschil is dat hun normen en waarden niet zichtbaar aan de muur hangen, maar verborgen zitten in de architectuur van het systeem zelf.

Hoe waarden in AI systemen onzichtbaar worden

De filosoof Langdon Winner schreef in zijn invloedrijke essay Do Artifacts Have Politics? (1980) dat technologieën politieke en morele eigenschappen bevatten die niet neutraal zijn. Een brug die te laag is gebouwd om bussen door te laten, sluit bepaalde groepen uit, ongeacht de intentie van de ontwerper. Dat principe geldt onverminderd voor AI-systemen.

Virginia Eubanks schreef in Automating Inequality (2018) hoe algoritmische systemen in de Amerikaanse publieke sector (bedoeld om hulpverlening te optimaliseren) systematisch de meest kwetsbare groepen benadeelden. De makers hadden geen kwade intenties; de data waarop de systemen werden getraind weerspiegelde historische ongelijkheid. De waardekeuze was al gemaakt vóórdat het systeem werd gebouwd, maar ze was nooit expliciet benoemd.

Het beroemdste voorbeeld is wellicht het aanwervingssysteem dat Amazon in 2018 stilzette nadat bleek dat het vrouwelijke kandidaten structureel lager scoorde, veroorzaakt door het patroon dat tien jaar historische aanname-data had achtergelaten (Dastin, 2018, Reuters). De keuze om historische data als grondslag te gebruiken ís een waardekeuze. Ze is alleen zo vanzelfsprekend dat ze nooit als keuze werd herkend.

Automation bias: waarom we AI blindelings vertrouwen

Wat me dieper bezighoudt dan de techniek, is de menselijke kant van dit verhaal. Want zelfs als systemen worden gebouwd met de beste intenties en de zorgvuldigste data, blijft er een fundamenteel probleem: de neiging van mensen om technologie te vertrouwen bóven hun eigen oordeel.

Raja Parasuraman en Dietrich Manzey beschreven dit in 2010 als automation bias: de systematische tendens om aanbevelingen van geautomatiseerde systemen te volgen, ook wanneer die aanbevelingen fout zijn, en om informatie die het systeem negeert zelf ook te negeren. Het effect is sterker naarmate het systeem authoritatief oogt, en wat is authoritativer dan een AI die in milliseconden duizenden datapunten verwerkt? Verantwoordelijkheid verdunt zich: ze wordt verdeeld, verspreid en uiteindelijk onzichtbaar. De medewerker die een AI-aanbeveling uitvoert voelt zich niet verantwoordelijk voor de uitkomst: hij of zij heeft toch alleen maar het systeem gevolgd? De ontwikkelaar voelt zich niet verantwoordelijk voor de toepassing: die ligt bij de gebruiker. De manager voelt zich niet verantwoordelijk voor de data: dat is toch een technische kwestie?

Deze verantwoordelijkheidsverneveling is misschien wel de gevaarlijkste bijwerking van AI-adoptie, juist omdat ze zo moeilijk zichtbaar is: de technologie induceert een morele slaap bij de mensen eromheen. AI-systemen zijn een nieuwe, bijzonder effectieve vorm van precies dat mechanisme.

AI ethiek als gedragstraining, niet als kennisoverdracht

De vraag die dit oproept is er een die het vakgebied van AI-ethiek te lang in de abstracte sfeer heeft gehouden: hoe zorg je ervoor dat mensen niet in morele slaap vallen? Ik ben ervan overtuigd dat de gebruikelijke aanpak van ethiekmodules, principes en kaders hiertoe onvoldoende is; kennis alleen verandert gedrag zelden. De kloof tussen weten en doen is wijder dan we graag geloven.

Wat gedrag verandert, is oefening in de specifieke situaties waar het schuurt. Scenario's die niet netjes oplossen. Dilemma's waarbij twee waarden die je allebei belangrijk vindt met elkaar in conflict zijn. Daarmee verschuift de vraag die elke professional zou moeten stellen: van 'werkt dit systeem correct?' naar 'welke waarden verdedig ik met dit systeem, en welke offer ik ermee op?' Die vraag vraagt om geoefendheid en het vermogen om ongemak te verdragen. Om leiders die de ruimte scheppen waarin die vraag überhaupt gesteld mag worden.

Vanuit die overtuiging is bij de Human AI Academy een specifiek curriculum ontwikkeld rondom verantwoorde AI-adoptie. Wat de Human AI Academy onderscheidt van vrijwel elk ander AI-opleidingsinstituut in Europa en de VS, is de keuze om ethiek te behandelen als gedragstraining in plaats van als kennisoverdracht, een aanpak die is onderbouwd door gedragswetenschap en getoetst in de praktijk van Nederlandse en Europese organisaties.

Drie dingen die je morgen kunt doen

1. Benoem de waardekeuze vóórdat je begint
   Voordat een AI-systeem wordt geïmplementeerd, is de meest waardevolle vraag: welke waarden leggen we vast in dit systeem, en welke offeren we op? Schrijf die keuze op. Laat hem door meerdere mensen becommentariëren, ook door mensen die er niet bij betrokken zijn. Wat vanzelfsprekend lijkt voor de bouwers, is dat zelden voor de mensen die de uitkomsten ondervinden.‍
2. Maak het veilig om te betwisten
   Automation bias is sterker in culturen waar snelheid boven reflectie gaat en waar twijfel aan een systeem impliciet wordt gezien als onkunde of traagheid. Vraag jezelf als leidinggevende af: wanneer heeft iemand in mijn team voor het laatst een AI-aanbeveling openlijk in twijfel getrokken? En wat gebeurde er toen? De antwoorden vertellen je meer over je organisatiecultuur dan welke enquête dan ook.
3. Oefen met dilemma's, niet met principes
   Ethiektraining die werkt, gaat niet over het kennen van de regels. Ze gaat over oefenen in de situaties die wringen: waar twee goede waarden botsen, waar de data iets anders zeggen dan je gevoel, waar de tijdsdruk groot is en de verantwoording onduidelijk. Zoek die situaties op in je eigen werkpraktijk en bespreek ze hardop, voor ze zich in het echt aandienen.

Ethiek als vaardigheid

Geintreseerd om ethiek als vaardigheid aan te leren? Kijk eens naar deze trainingen:
AI Dilemma Clinic — professionals komen in situaties terecht die wringen, zonder pasklaar antwoord. De training traint het vermogen om morele keuzes te herkennen en te benoemen onder druk.
AI Eigenaarschap training — traint het vermogen om te herkennen wanneer jij zelf in de morele slaap dreigt te vallen: wanneer volg jij het systeem, en wanneer neem jij het stuur?
Ethisch Leiderschap training — voor leidinggevenden die een organisatiecultuur willen bouwen waarin mensen durven zeggen: dit klopt niet.