Pourquoi l’IA ne me répond-elle pas comme je le souhaite ?

Dans Stalker, le chef-d’œuvre d’Andreï Tarkovski, la Zone est un espace mystérieux où, selon la rumeur, se trouve une chambre capable d’exaucer les désirs les plus profonds de ceux qui la visitent. L’un des voyageurs, le Professeur, souhaite vérifier l’existence réelle de cette chambre. L’autre, l’Écrivain, doute de son objectif, craignant ce qu’il pourrait découvrir. Mais c’est le Stalker, le guide, qui comprend la dimension spirituelle du voyage : il ne s’agit pas simplement d’un désir conscient, mais du désir le plus authentique, parfois même inconnu de soi-même.

Un cas emblématique évoqué dans le film est celui de Porcupine, un stalker qui a amené son frère décédé dans la Zone avec l’espoir de le ramener à la vie. En sortant, il reçoit une fortune inattendue : la chambre a réalisé son souhait le plus intime, et non celui qu’il croyait avoir. Accablé par cette vérité — son désir réel était l’argent, non son frère — il se suicide. Il n’a pas supporté l’écart entre ce qu’il disait vouloir et ce qu’il désirait réellement.

Cet abîme entre la question posée et le désir caché se retrouve aujourd’hui dans la relation entre les humains et l’intelligence artificielle. Celui qui demande « quelle est la situation géopolitique mondiale ? » cherche peut-être, au fond, des stratégies pour protéger ou augmenter son patrimoine. Celui qui sollicite une explication de Nietzsche souhaite peut-être mieux comprendre sa propre angoisse existentielle. La question est rationnelle, publique, recevable. Le désir, quant à lui, est intime, confus, parfois indicible.

L’IA, comme la chambre dans Stalker, répond à ce qu’on lui demande. Mais elle ne peut pas toujours, ni ne doit, deviner le désir profond qui motive la question. Cependant, une tension révélatrice subsiste : la qualité de nos questions dépend de la clarté — ou de l’obscurité — de nos buts véritables. À l’image de Porcupine, nous ignorons souvent ce que nous voulons réellement, et cela fausse nos recherches.

Dans un univers de plus en plus peuplé d’assistants intelligents, l’enjeu n’est pas tant de mieux questionner, mais de mieux désirer. Comprendre ce qui nous anime, ce que nous souhaitons au plus profond de nous peut redéfinir non seulement notre rapport à la technologie, mais aussi à nous-mêmes. Sinon, nous pourrions finir comme Porcupine : découvrir trop tard que ce que nous avons demandé n’était pas ce que nous voulions, et que la bonne réponse peut, en réalité, être une condamnation.