Waarom reageert AI niet zoals ik wil?

In Stalker, het meesterwerk van Andrei Tarkovski, is de Zone een mysterieuze ruimte waar naar verluidt een kamer bestaat die de diepste wensen van haar bezoekers vervult. Een van de reizigers, de Professor, wil het daadwerkelijke bestaan van de kamer verifiëren. De andere, de Schrijver, twijfelt aan zijn doel, bang voor wat het kan onthullen. Maar het is de Stalker, de gids, die de spirituele dimensie van de reis kent: het gaat niet alleen om een bewust verlangen, maar om het meest ware verlangen, zelfs dat waarvan je niet weet dat je het hebt.

Een emblematisch geval dat in de film wordt verteld is dat van Porcupine, een stalker die zijn dode broer naar de Zone bracht in de hoop hem weer tot leven te wekken. Bij terugkomst ontvangt hij een onverwachte fortuin: de kamer heeft zijn meest intieme wens vervuld, niet degene waarvan hij dacht dat hij hem had. Overweldigd door deze waarheid — zijn echte verlangen was geld, niet zijn broer — pleegt hij zelfmoord. Hij kon de afstand tussen wat hij zei te willen en wat hij echt wenste niet verdragen.

Deze kloof tussen de gestelde vraag en het verborgen verlangen herhaalt zich tegenwoordig in de relatie tussen mensen en kunstmatige intelligentie. Wie vraagt “hoe is de geopolitieke situatie wereldwijd?” zoekt misschien in werkelijkheid naar strategieën om zijn vermogen te beschermen of te vergroten. Iemand die een uitleg over Nietzsche vraagt, wil misschien zijn eigen existentiële angst begrijpen. De vraag is rationeel, publiek, acceptabel. Het verlangen daarentegen is intiem, verwarrend, soms onuitspreekbaar.

AI beantwoordt, net zoals de kamer in Stalker, dat wat haar gevraagd wordt. Maar ze kan, en moet, niet altijd het diepe verlangen raden dat de vraag motiveert. Toch bestaat er een veelzeggende spanning: de kwaliteit van onze vragen wordt bepaald door de helderheid — of het gebrek eraan — over onze ware doelen. Zoals Porcupine beseffen we vaak niet wat we werkelijk willen, en dat beïnvloedt onze zoektochten.

In een wereld van intelligente assistenten ligt de sleutel niet in beter vragen stellen, maar in beter willen. Begrijpen wat ons drijft, wat we het diepst verlangen, kan niet alleen herdefiniëren hoe we met technologie omgaan, maar ook hoe we met onszelf omgaan. Anders zouden we kunnen eindigen als Porcupine: te laat ontdekken dat wat we vroegen niet was wat we wilden, en dat het juiste antwoord in werkelijkheid een veroordeling kan zijn.