We gebruiken navigatie zonder er nog over na te denken.
Je voert een bestemming in, het systeem kent de kaart, ziet files en stelt een route voor. Jij kiest uiteindelijk welke route je volgt.
Klinkt alsof jij de beslissing neemt.
Maar stel nu dat het navigatiesysteem al heeft bepaald:
- welke kaart wordt gebruikt;
- welke wegen relevant zijn;
- welke routes kansrijk zijn;
- welke drie opties jij überhaupt te zien krijgt.
Dan zit jij nog steeds “in the loop”.
Maar hoeveel heb je eigenlijk nog zelf bepaald?
Met AI gebeurt iets vergelijkbaars
We praten vaak over de vraag of AI iets mag doen of beslissen. En zolang er maar een mens meekijkt, voelt dat veilig.
Maar menselijke controle begint niet pas bij het laatste vinkje.
AI kan al veel eerder invloed hebben.
Het bepaalt welke informatie wordt geselecteerd.
Waar het systeem voor optimaliseert.
Welke patronen worden benadrukt.
Welke opties op tafel komen.
En welke alternatieven buiten beeld blijven.
De mens kan dan nog steeds formeel het laatste woord hebben, terwijl een groot deel van de keuze al vooraf is gevormd.
Human in the loop is niet genoeg
Daarom is human in the loop op zichzelf niet genoeg.
De betere vragen zijn:
Welke kaart gebruikt de AI?
Waar probeert het systeem naartoe te sturen?
Welke routes krijg ik te zien?
En welke niet?
Pas daarna komt de vraag:
Wie neemt uiteindelijk het besluit?
Misschien is dat wel de echte uitdaging van AI.
Niet alleen zorgen dat de mens ergens in het proces blijft.
Maar zorgen dat de mens zicht houdt op de kaart, het doel en de alternatieven.
Wie de kaart kiest, beïnvloedt de route nog vóór iemand een afslag neemt.