Pourquoi l'IA ne me répond pas comme je veux ?
Dans Stalker, le chef-d'œuvre d'Andreï Tarkovski, la Zone est un espace mystérieux où, dit-on, existe une pièce capable d'exaucer les désirs les plus profonds de ceux qui la visitent. L'un des voyageurs, le Professeur, souhaite vérifier l'existence réelle de la pièce. L'autre, l'Écrivain, doute de son but, craignant ce qu'elle pourrait révéler. Mais c'est le Stalker, le guide, qui connaît la dimension spirituelle du voyage : il ne s'agit pas simplement d'un désir conscient, mais du désir le plus vrai, même celui dont on ignore l'existence.
Un cas emblématique narré dans le film est celui de Porcupine, un Stalker qui a emmené son frère mort dans la Zone dans l'espoir de le ramener à la vie. En sortant, il reçoit une fortune inattendue : la pièce lui a accordé son désir le plus intime, non pas celui qu'il croyait avoir. Accablé par cette vérité —son vrai désir était l'argent, pas son frère— il se suicide. Il n'a pas pu supporter la distance entre ce qu'il disait vouloir et ce qu'il désirait réellement.
Cet abîme entre la question formulée et le désir caché se répète aujourd'hui dans la relation entre les humains et l'intelligence artificielle. Celui qui demande « quelle est la situation géopolitique mondiale ? » pourrait chercher, au fond, des stratégies pour protéger ou multiplier son patrimoine. Celui qui demande une explication de Nietzsche cherche peut-être à comprendre sa propre angoisse existentielle. La question est rationnelle, publique, acceptable. Le désir, en revanche, est intime, confus, parfois inavouable.
L'IA, comme la pièce dans Stalker, répond à ce qui lui est demandé. Mais elle ne peut pas toujours, ni ne doit, deviner le désir profond qui motive la question. Cependant, il existe une tension révélatrice : la qualité de nos questions est déterminée par la clarté —ou le manque de clarté— de nos véritables objectifs. Comme Porcupine, souvent nous ne savons pas ce que nous voulons réellement, et cela contamine nos recherches.
Dans un monde d'assistants intelligents, la clé n'est pas de mieux demander, mais de mieux désirer. Comprendre ce qui nous motive, ce que nous désirons au plus profond de nous, peut redéfinir non seulement comment nous interagissons avec la technologie, mais aussi comment nous interagissons avec nous-mêmes. Sinon, nous pourrions finir comme Porcupine : découvrant trop tard que ce que nous avons demandé n'était pas ce que nous voulions, et que la bonne réponse peut être, en réalité, une condamnation.