Warum antwortet mir die KI nicht, wie ich es möchte?
In Stalker, Andrej Tarkowskys Meisterwerk, ist die Zone ein mysteriöser Ort, in dem sich angeblich ein Raum befindet, der die tiefsten Wünsche seiner Besucher erfüllen kann. Einer der Reisenden, der Professor, möchte die tatsächliche Existenz des Raumes überprüfen. Der andere, der Schriftsteller, zweifelt an seinem Zweck, aus Angst vor dem, was er offenbaren könnte. Aber es ist der Stalker, der Führer, der die spirituelle Dimension der Reise kennt: Es geht nicht einfach um einen bewussten Wunsch, sondern um den wahrsten Wunsch, selbst den, von dem man nicht weiß, dass man ihn hat.
Ein emblematischer Fall, der im Film erzählt wird, ist der von Porcupine, einem Stalker, der seinen toten Bruder in die Zone brachte, in der Hoffnung, ihn wieder zum Leben zu erwecken. Beim Verlassen erhält er ein unerwartetes Vermögen: Der Raum gewährte ihm seinen innersten Wunsch, nicht den, den er zu haben glaubte. Überwältigt von dieser Wahrheit – sein wahrer Wunsch war Geld, nicht sein Bruder – nahm er sich das Leben. Er konnte die Diskrepanz zwischen dem, was er zu wollen vorgab, und dem, was er wirklich wünschte, nicht ertragen.
Dieser Abgrund zwischen der gestellten Frage und dem verborgenen Wunsch wiederholt sich heute in der Beziehung zwischen Menschen und künstlicher Intelligenz. Wer fragt „Wie ist die geopolitische Lage der Welt?“, könnte im Grunde Strategien suchen, um sein Vermögen zu schützen oder zu vervielfachen. Wer eine Erklärung von Nietzsche sucht, möchte vielleicht seine eigene existentielle Angst verstehen. Die Frage ist rational, öffentlich, akzeptabel. Der Wunsch hingegen ist intim, verworren, manchmal ungestehen.
Die KI, wie der Raum in Stalker, antwortet auf das, was gefragt wird. Aber sie kann und soll nicht immer den tiefen Wunsch erraten, der die Frage motiviert. Es gibt jedoch eine aufschlussreiche Spannung: Die Qualität unserer Fragen wird durch die Klarheit – oder mangelnde Klarheit – bezüglich unserer wahren Ziele bestimmt. Wie Porcupine wissen wir oft nicht, was wir wirklich wollen, und das kontaminiert unsere Suchen.
In einer Welt intelligenter Assistenten liegt der Schlüssel nicht darin, besser zu fragen, sondern besser zu wünschen. Zu verstehen, was uns antreibt, was wir im Tiefsten ersehnen, kann nicht nur neu definieren, wie wir mit Technologie umgehen, sondern auch, wie wir mit uns selbst umgehen. Andernfalls könnten wir wie Porcupine enden: zu spät entdecken, dass das, wonach wir gefragt haben, nicht das war, was wir wollten, und dass die richtige Antwort in Wirklichkeit ein Urteil sein kann.