Warum antwortet mir die KI nicht so, wie ich es will?

In Stalker, dem Meisterwerk von Andrei Tarkowski, ist die Zone ein mysteriöser Ort, in dem es angeblich einen Raum gibt, der die tiefsten Wünsche der Besucher erfüllt. Einer der Reisenden, der Professor, möchte die tatsächliche Existenz des Raums überprüfen. Der andere, der Schriftsteller, zweifelt an seinem Ziel und fürchtet, was er herausfinden könnte. Doch der Stalker, der Führer, kennt die spirituelle Dimension der Reise: Es geht nicht nur um einen bewussten Wunsch, sondern um den wahrhaftigsten Wunsch, sogar um den, von dem man nichts weiß.

Ein symbolträchtiger Fall, der im Film erzählt wird, ist der von Porcupine, einem Stalker, der seinen toten Bruder in die Zone brachte, in der Hoffnung, ihm das Leben zurückzugeben. Nach dem Verlassen erhält er unverhofft ein Vermögen: Der Raum erfüllte ihm seinen innersten Wunsch, nicht den, von dem er glaubte. Überwältigt von dieser Wahrheit – sein eigentlicher Wunsch war Geld, nicht sein Bruder – nimmt er sich das Leben. Er konnte die Kluft zwischen dem, was er zu wollen glaubte, und dem, was er wirklich wollte, nicht ertragen.

Diese Kluft zwischen gestellter Frage und verborgenem Wunsch wiederholt sich heute in der Beziehung zwischen Mensch und künstlicher Intelligenz. Wer fragt: „Wie ist die weltweite geopolitische Lage?“, sucht vielleicht insgeheim nach Strategien, um sein Vermögen zu schützen oder zu mehren. Wer eine Erklärung zu Nietzsche erfragt, versucht womöglich, seine eigene existentielle Angst zu verstehen. Die Frage ist rational, öffentlich, akzeptabel. Der Wunsch hingegen ist intim, verworren, manchmal unaussprechlich.

Die KI antwortet, wie der Raum in Stalker, auf das, was gefragt wird. Sie kann und sollte jedoch nicht immer den tiefen Wunsch erraten, der hinter der Frage steht. Dabei offenbart sich eine zentrale Spannung: Die Qualität unserer Fragen hängt von der Klarheit – oder Unklarheit – bezüglich unserer wahren Ziele ab. Wie Porcupine wissen wir oft nicht, was wir tatsächlich wollen, was unsere Suche beeinträchtigt.

In einer Welt voller intelligenter Assistenten liegt der Schlüssel nicht in besseren Fragen, sondern in besseren Wünschen. Zu verstehen, was uns antreibt und was wir im Innersten begehren, kann nicht nur unser Verhältnis zur Technologie, sondern auch zu uns selbst neu definieren. Andernfalls ergeht es uns vielleicht wie Porcupine: Wir erkennen zu spät, dass das, was wir erbeten haben, nicht wirklich das war, was wir wollten, und die richtige Antwort womöglich eine Strafe ist.