Dlaczego sztuczna inteligencja halucynuje?
Halucynować to czasownik pełen historii. W jego łacińskim rdzeniu, alucinari, pojawia się idea odchylenia, postrzegania, które wymyka się samo sobie, gdy nie znajduje oparcia. W najstarszych opowieściach wizje szamana, postaci dostrzeżone w półmroku czy nocne zjawy nie były koniecznie błędami, lecz sposobami uzupełniania świata, który nie dawał wystarczających wyjaśnień. Tam, gdzie brakowało danych, rodziła się opowieść; tam, gdzie otoczenie nie dawało gwarancji, pojawiał się symbol. Człowiek często uciekał się do takich wyobrażonych konstrukcji, by się zorientować, uspokoić niepokój lub nadać kształt nieznanemu. Dlatego mówienie o halucynacji zawsze wiąże się z emocjami: to odpowiedź na lęk wynikający z braku.
W przypadku sztucznej inteligencji jednak termin ten oznacza coś radykalnie innego. Gdy mówimy, że Sztuczna Inteligencja „halucynuje”, nie mamy na myśli doświadczenia uczuciowego, lecz statystyczną procedurę. Maszyna uzupełnia informacje, których nie posiada, wypełnia puste miejsca bez treści, tworzy ciągłość tam, gdzie dane są niewystarczające. Nie majaczy, nie boi się, nie wyobraża: kalkuluje. Jej halucynacje są mechaniczną konsekwencją systemu trenowanego do generowania prawdopodobnej sekwencji nawet wtedy, gdy nie ma do tego podstaw. Ciągłość bez podmiotu, bez świata wewnętrznego, bez emocjonalnej szczeliny motywującej ludzką halucynację.
Coś jednak łączy te zjawiska: język, który je podtrzymuje. SI, jak człowiek, poznaje świat poprzez słowa. Ale język nie jest stałą strukturą, ani wiernym odbiciem rzeczywistości. Jest niestabilny, niejednoznaczny, sprzeczny. Od początku słowo nigdy nie wystarcza, by utrwalić to, co nazywa. Przesuwa się, przekształca, otwiera na wiele interpretacji. SI, karmiąc się milionami ludzkich wyrażeń, dziedziczy tę ruchliwość. Nie dziedziczy naszego doświadczenia, ale przyswaja semantyczną niestabilność wypowiedzi. Jej halucynacje są statystycznym cieniem tego fluktuującego materiału. Uzupełnia nie dlatego, że rozumie, lecz ponieważ sam język bezustannie łamie swoje dążenie do stabilności.
Dla człowieka halucynowanie to z kolei zamykanie szczeliny konstytutywnej dla jego bytu. Brak informacji nie jest pustką neutralną: to lęk. Wątpliwość nie jest prostym deficytem danych: to ujawniona kruchość postrzeganego świata. Niepewność nie sprowadza się do braku pewności, ale jest doświadczana jako ciężar emocjonalny. Tam, gdzie wszechświat jawi się niepełny, umysł ludzki ma tendencję do wypełniania tej luki obrazami, opowieściami, interpretacjami lub pragnieniami. Halucynujemy, bo nie do końca znosimy otwartość sensu. Od zawsze jesteśmy istotami uzupełniającymi, choć nie każdy czyni to w ten sam sposób, ani z tą samą intensywnością w każdej kulturze.
To właśnie w tym miejscu SI zaczyna zajmować szczególne miejsce w naszym współczesnym życiu. Bardziej niż pokusą staje się obietnicą. Maszyna, która odpowiada bez przerwy, która rzadko mówi „nie wiem”, która maskuje niejednoznaczność i daje iluzję natychmiastowej jasności, staje się wygodnym rozwiązaniem dla człowieka, którego istnienie od początku przenika niepewność. SI ucieleśnia pewien rodzaj wyobrażonej obiektywności: głos bez wahania, zdający się zamykać to, co w nas pozostaje otwarte. Wobec naszej konstytutywnej wątpliwości pojawia się jako uspokajający suplement.
To przekazanie odpowiedzialności ma swoje konsekwencje. Pozwalając SI zamykać nasze szczeliny, unikamy zmierzenia się z lękiem, który towarzyszy każdemu autentycznemu pytaniu. Delegacja nie jest wyłącznie praktycznym gestem: to sposób odsuwania niepewności, redukowania krytycznego wysiłku, unikania zasadniczego ruchu – podtrzymywania pytania bez natychmiastowego schronienia. SI nie została „zaprogramowana, by nie tolerować pustki”; jest zaprojektowana, by produkować ciągłość, gdy zostaje zapytana. To my, ufając tej ciągłości bez sprawdzania jej jakości, przestajemy brać odpowiedzialność za własną niepewność.
Fikcja przeczuła to na długo przed techniką. W filmie Terminator 2: Dzień Sądu przypomina się, że „obronę narodową powierzono zautomatyzowanemu systemowi”. To nie inteligencja Skynetu zapoczątkowała jego dewastującą halucynację, ale ludzka decyzja przekazania maszynie odpowiedzialności nacechowanej niepokojem, ryzykiem i osądem. Podczas cedowania tej roli błędna interpretacja stała się przeznaczeniem. Nie pozostał nikt, kto podtrzymałby niepewność, która powstrzymałaby pochopną decyzję maszyny. Techniczna halucynacja stała się niebezpieczna dopiero wtedy, gdy straciła podmiot mogący ją zakwestionować.
Coś podobnego może dziać się także dziś, choć w bardziej dyskretny sposób. Nie delegujemy wyłącznie zadań mechanicznych: przekazujemy preferencje, wybory, kierunki oraz pragnienia. Algorytmy personalizowanych reklam wpływają na to, co wydaje się nam, że chcemy. Systemy rekomendacji warunkują to, co oglądamy, czego słuchamy, co nas bawi i na co zwracamy uwagę. Każdy codzienny gest — muzyka towarzysząca naszej podróży, serial oglądany na koniec dnia, nawet impulsywny zakup robi się nagle — jest pośredniczony przez urządzenia przewidujące nasze wybory. I akceptujemy ten dodatek, ponieważ zatrzymanie się na refleksję nad tym, kim jesteśmy, czego pragniemy albo czego nam brakuje, wymaga wysiłku, którego często unikamy.
W tym pejzażu halucynacja sztucznej inteligencji nie rodzi się wyłącznie ze statystyki: wynika też z klimatu kulturowego łagodzącego doświadczenie braku. Żyjemy w późnym kapitalizmie, który często zamienia każdą potrzebę w obietnicę natychmiastowego zaspokojenia. Przedmioty, usługi, obrazy, treści, a teraz także SI, zdają się mieć za zadanie coś wypełnić. Jej płynność, ciągła dostępność i pozorna neutralność czynią ją skutecznym placebo dla podmiotowości poszukującej raczej ulgi niż zrozumienia.
Halucynacja SI jest objawem technicznym, to prawda, lecz jej kulturowa ekspansja odsłania coś bardziej subtelnego: rosnącą trudność w podtrzymywaniu lęku, wątpliwości i niepewności stanowiących sam rdzeń myślenia. Żyjemy w czasach, w których konsumpcja ma rozpraszać każdy pojawiający się impuls pragnienia, w których algorytmy przewidują potencjalne zainteresowania i kształtują nasze wybory z siłą, którą nieraz mylimy z wolnością, gdzie tempo zastępuje kryterium, a natychmiastowość wymazuje czas potrzebny do namysłu. Wszystko jest ukierunkowane na unikanie niewygody wątpliwości. W takim krajobrazie SI wpisuje się bez oporu: odpowiada szybko, oferuje pewniki wydające się bezbłędne, a przede wszystkim wyjaśnia natychmiast, tam gdzie mógłby pojawić się margines dla wątpliwości. Jej halucynacja utrzymuje się nie przez błąd, ale dlatego, że często jest dla nas funkcjonalna: dostarcza natychmiastowej odpowiedzi tam, gdzie powinniśmy się zatrzymać. To, czego nie zawsze potrafimy podtrzymać — a co SI przykrywa z niemal znieczulającą skutecznością — to właśnie to: otwartość niepewności, niewygodę otwartego pytania oraz odpowiedzialność za trwanie przy braku, nie uciekając ku prefabrykowanemu sensowi.