Wat als AI je gelijk geeft, maar je het mis hebt?

Twee collega’s lopen na een vergadering naar hun auto.

“Nou, dat was een goed overleg”, zegt de een.

“Meen je dat?”, antwoordt de ander. “We hebben anderhalf uur zitten praten en zijn geen stap verder.”

Ze zaten in dezelfde ruimte. Hoorden dezelfde mensen. Zagen dezelfde presentatie. En toch beleefden ze een compleet andere vergadering.

Wie heeft er gelijk?

Misschien allebei een beetje. Misschien missen ze allebei iets.

We kijken nu eenmaal allemaal door onze eigen bril naar de werkelijkheid.

Onze ervaringen, verwachtingen en overtuigingen bepalen mede wat we zien en welke betekenis we eraan geven. Dat is menselijk. Maar nu komt het interessante.

En toen kwam AI

We trainen AI op enorme hoeveelheden informatie die voor een belangrijk deel door mensen is gemaakt. Wetenschappelijke artikelen, boeken, websites en allerlei andere teksten.

Daar zit ontzettend veel kennis in. Maar ook menselijke aannames, vooroordelen, fouten en tegenstrijdigheden.

En vervolgens vragen we diezelfde AI om ons te helpen begrijpen hoe de wereld in elkaar zit.

Best een bijzondere gedachte.

Want wat gebeurt er als wij onze eigen overtuigingen meenemen in de vragen die we stellen?

Stel dat je een LLM-tool vraagt:

“Mijn collega luistert nooit naar mijn ideeën. Hoe kan ik daarmee omgaan?”

Grote kans dat je een begripvol antwoord krijgt, met handige tips om het gesprek aan te gaan.

Maar wacht even. Wie zegt dat jouw collega nooit luistert?

Misschien had hij een goede reden om je voorstel af te wijzen. Misschien heb je zelf iets gemist.

AI kent alleen het verhaal dat jij hebt verteld.

Een spiegel of een versterker?

Onderzoek laat zien dat AI menselijke denkfouten kan versterken, zeker wanneer systemen geneigd zijn gebruikers te bevestigen. Dat laatste noemen onderzoekers sycophancy.

Maar het mooie is dat AI ons óók kan helpen om scherper te denken.

Probeer dezelfde vraag eens anders te stellen:

“Ik heb het gevoel dat mijn collega mijn ideeën tegenhoudt. Welke aannames maak ik, en welke andere verklaringen zijn mogelijk?”

Ineens gebruik je AI niet om gelijk te krijgen, maar om je eigen denken te onderzoeken.

En misschien zit daar wel de echte waarde.

We hebben machines gebouwd die steeds beter antwoord kunnen geven. Maar de kwaliteit van ons denken hangt nog altijd af van onze bereidheid om onze eigen overtuigingen ter discussie te stellen.

De volgende keer dat AI je gelijk geeft, stel dan nog één vraag:

Wat als ik het mis heb?

Verder lezen