Waarom antwoordt AI niet zoals ik wil?
In Stalker, het meesterwerk van Andrej Tarkovski, is de Zone een mysterieuze plek waar, naar verluidt, een kamer bestaat die de diepste verlangens van de bezoekers kan vervullen. Eén van de reizigers, de Professor, wil de daadwerkelijke existentie van de kamer verifiëren. De andere, de Schrijver, twijfelt aan het doel ervan, bang voor wat het zou kunnen onthullen. Maar het is de Stalker, de gids, die de spirituele dimensie van de reis kent: het gaat niet simpelweg om een bewust verlangen, maar om het meest ware verlangen, zelfs datgene waarvan men niet weet dat men het heeft.
Een kenmerkend geval dat in de film wordt verteld, is dat van Porcupine, een stalker die zijn dode broer naar de Zone bracht in de hoop hem weer tot leven te wekken. Bij het verlaten ontvangt hij een onverwachte fortuin: de kamer vervulde zijn meest intieme verlangen, niet wat hij dacht te willen. Overweldigd door deze waarheid — zijn ware verlangen was geld, niet zijn broer — pleegt hij zelfmoord. Hij kon de afstand niet verdragen tussen wat hij zei te willen en wat hij werkelijk verlangde.
Deze kloof tussen de gestelde vraag en het verborgen verlangen herhaalt zich vandaag in de relatie tussen mens en kunstmatige intelligentie. Wie vraagt “hoe is de mondiale geopolitieke situatie?” zoekt misschien, diep vanbinnen, naar strategieën om zijn bezit te beschermen of te vermenigvuldigen. Wie om een verklaring van Nietzsche vraagt, probeert misschien zijn eigen existentiële angst te begrijpen. De vraag is rationeel, openbaar, acceptabel. Het verlangen daarentegen is intiem, verward, soms onuitspreekbaar.
AI, net als de kamer in Stalker, reageert op wat er gevraagd wordt. Maar het kan en moet niet altijd het diepe verlangen raden dat de vraag motiveert. Er is echter een onthullende spanning: de kwaliteit van onze vragen wordt bepaald door de helderheid — of het gebrek aan helderheid — met betrekking tot onze ware doelen. Net als Porcupine weten we vaak niet wat we werkelijk willen, en dat besmet onze zoektochten.
In een wereld van intelligente assistenten ligt de sleutel niet in beter vragen, maar in beter verlangen. Begrijpen wat ons drijft, wat we diep vanbinnen verlangen, kan niet alleen herdefiniëren hoe we omgaan met technologie, maar ook hoe we omgaan met onszelf. Anders zouden we kunnen eindigen als Porcupine: te laat ontdekken dat wat we vroegen niet was wat we wilden, en dat het juiste antwoord in werkelijkheid een veroordeling kan zijn.