Dlaczego sztuczna inteligencja nie odpowiada tak, jak chcę?

W Stalkerze, arcydziele Andrieja Tarkowskiego, Strefa to tajemnicza przestrzeń, w której rzekomo istnieje pokój mogący spełnić najgłębsze pragnienia tych, którzy go odwiedzają. Jeden z podróżników, Profesor, chce zweryfikować rzeczywiste istnienie pokoju. Drugi, Pisarz, wątpi w jego cel, obawiając się tego, co może zostać ujawnione. Jednak to Stalker, przewodnik, rozumie duchowy wymiar podróży: nie chodzi po prostu o świadome pragnienie, lecz o to najprawdziwsze, nawet takie, o którym nie wiemy, że je posiadamy.

Sztandarowym przypadkiem opowiedzianym w filmie jest historia Jeżozwierza, stalkera, który zabrał swojego zmarłego brata do Strefy z nadzieją, że przywróci mu życie. Po wyjściu ze Strefy otrzymuje nieoczekiwany majątek: pokój spełnił jego najskrytsze pragnienie, nie to, które mu się wydawało. Przytłoczony tą prawdą — jego prawdziwym pragnieniem były pieniądze, a nie brat — popełnia samobójstwo. Nie mógł znieść rozbieżności między tym, co mówił, że chce, a tym, czego naprawdę pragnął.

Ta przepaść między zadanym pytaniem a ukrytym pragnieniem powtarza się dziś w relacjach człowieka ze sztuczną inteligencją. Osoba pytająca „jaka jest sytuacja geopolityczna na świecie?” może w głębi duszy szukać strategii ochrony lub pomnażania majątku. Kto prosi o wyjaśnienie idei Nietzschego, być może próbuje zrozumieć własny egzystencjalny niepokój. Pytanie jest racjonalne, publiczne, akceptowalne. Pragnienie natomiast jest intymne, niejasne, niekiedy niewyznawane.

Sztuczna inteligencja, jak pokój w Stalkerze, odpowiada na to, o co została zapytana. Nie zawsze jednak może, ani powinna, odgadywać głębokie pragnienie stojące za pytaniem. Jednak istnieje tu znamienne napięcie: jakość naszych pytań zależy od klarowności — lub jej braku — wobec naszych prawdziwych celów. Podobnie jak Jeżozwierz, często nie wiemy, czego tak naprawdę chcemy, a to wpływa na nasze poszukiwania.

W świecie inteligentnych asystentów kluczowe nie jest lepsze zadawanie pytań, lecz lepsze pragnienie. Zrozumienie, co nami kieruje i czego najbardziej pragniemy, może zrewolucjonizować nie tylko nasze relacje z technologią, ale też z samymi sobą. W przeciwnym razie możemy skończyć jak Jeżozwierz: odkrywając zbyt późno, że to, o co prosiliśmy, nie było tym, czego pragnęliśmy, a prawidłowa odpowiedź może okazać się wyrokiem.