AI kan steeds meer.
Eerst stelden we vooral vragen aan een chatbot. Inmiddels kan AI teksten schrijven, informatie analyseren, programmeren en steeds vaker zelfstandig taken uitvoeren.
Zo’n AI-systeem wordt vaak een agent genoemd.
Dat is handig. Maar het roept ook een belangrijke vraag op:
Als AI iets kan, betekent dat dan ook dat AI het zelfstandig moet mogen doen?
Een simpele typecursus
Die vraag kwam bij mij op tijdens het bouwen van TiepMiep, een typecursus voor mijn kinderen.
Stel dat TiepMiep in de toekomst ontdekt dat een leerling regelmatig de letters N en M door elkaar haalt.
Het systeem besluit daarom een paar extra oefeningen aan te bieden.
Waarschijnlijk geen probleem. De gevolgen zijn klein en als het niet werkt, stoppen we ermee.
Maar stel dat het systeem ontdekt dat veel kinderen moeite hebben met N en M.
Wat mag het dan doen?
Alleen melden dat het iets opvallends ziet? Een verbetering voorstellen? Zelf de cursus aanpassen? De verandering direct voor alle kinderen doorvoeren?
Ergens in die reeks verandert onze reactie waarschijnlijk van:
“Handig dat AI dat zelf doet.”
naar:
“Wacht even. Moet AI dit wel zelf mogen beslissen?”
Een digitale collega met verschillende sleutels
Misschien helpt een eenvoudige vergelijking.
Stel dat een nieuwe collega bij een bedrijf begint.
We geven die persoon ook niet op de eerste werkdag automatisch de sleutel van het kantoor, toegang tot alle klantgegevens, toestemming om betalingen te doen én de bevoegdheid om bedrijfsregels te veranderen.
Niet omdat we die collega wantrouwen.
Maar omdat verschillende verantwoordelijkheden verschillende bevoegdheden vragen.
Waarom zouden we bij AI iets anders doen?
Een AI die informatie mag bekijken, hoeft die informatie niet automatisch te mogen veranderen.
Een AI die een verbetering kan voorstellen, hoeft die verbetering niet zelf te mogen invoeren.
En een AI die iets mag aanpassen, hoeft niet automatisch te mogen bepalen dat die verandering voor iedereen gaat gelden.
Kunnen is iets anders dan mogen.
Niet iedere beslissing heeft dezelfde gevolgen
Daar zit volgens mij een belangrijk uitgangspunt.
We vragen vaak hoeveel autonomie we AI willen geven. Misschien is een betere vraag:
Waarover willen we AI autonomie geven?
Een verkeerde extra typeoefening heeft weinig gevolgen.
Het aanpassen van de cursus voor alle leerlingen heeft meer gevolgen.
En het zelfstandig veranderen van gegevens of software vraagt weer om andere waarborgen.
De technologie kan dezelfde zijn. De gevolgen zijn dat niet.
Dat betekent overigens niet dat een mens iedere AI-handeling moet goedkeuren. Dan verdwijnt een groot deel van de waarde van automatisering.
Binnen duidelijke grenzen kan AI prima zelfstandig handelen. Naarmate de mogelijke gevolgen groter worden, kunnen we extra controle inbouwen of de beslissing bewust bij een mens houden.
Van kunnen naar mogen
De afgelopen jaren waren we vooral gefascineerd door de vraag:
Wat kan AI allemaal?
Naarmate AI steeds vaker voor ons gaat handelen, wordt een tweede vraag minstens zo belangrijk:
Wat willen we AI zelfstandig laten doen?
Dat is niet alleen een technische vraag. Het gaat over vertrouwen, verantwoordelijkheid en controle.
Mijn typecursus gaat zichzelf voorlopig niet herschrijven.
Maar het kleine voorbeeld maakt wel een groter principe zichtbaar:
Hoe meer sleutels we AI geven, hoe belangrijker het wordt om bewust te bepalen welke deuren daarmee open mogen.