Czy ludzie marzą o byciu elektrycznymi owcami?
Niepokojąca intuicja przenika nowoczesność na długo przed pojawieniem się algorytmów, ekranów czy sztucznej inteligencji: zmęczenie decydowaniem. Nie chodzi o zmęczenie fizyczne, a nawet intelektualne, lecz o coś głębszego i bardziej uporczywego: wyczerpanie wynikające z konieczności wydawania osądów. Nigdy wcześniej człowiek nie musiał dokonywać tylu wyborów w tak błahych sprawach. Wybieranie spośród setek produktów w supermarkecie, dziesiątek marek butów, tysięcy filmów i seriali, niezliczonych restauracji, podróży, stylów, opcji. Każda decyzja wydaje się drobiazgowa, lecz ich kumulacja jest przytłaczająca. Nie dlatego, że są to wybory istotne, lecz właśnie dlatego, że są nieistotne. Ogromna ilość energii poznawczej jest inwestowana w rozstrzyganie błahostek. Decydowanie nie jako jednorazowy akt, ale jako stałe zadanie.
Na początku XX wieku, gdy nowoczesna administracja umacnia się jako dominująca forma organizacji społecznej, Max Weber zatrzymuje się, by opisać jej wewnętrzną logikę. W Gospodarka i społeczeństwo (1922) analizuje biurokrację nie jako moralne wypaczenie ani objaw dekadencji, ale jako strukturę wyjątkowo skuteczną. Dostrzega progresywne przesunięcie osądu: działanie przestaje zależeć od osobistych ocen i zaczyna być określane wedle z góry przyjętych reguł, procedur i kompetencji. System nie potrzebuje podmiotów decydujących, lecz agentów wykonujących. Odpowiedzialność nie znika, ale się fragmentuje; osąd przestaje być osobistym, subiektywnym aktem, a zostaje rozproszony w strukturze organizacyjnej.
Dla Webera zastąpienie osądu procedurą nie jest przypadkiem ani wynaturzeniem systemu, lecz jego warunkiem możliwości. Nowoczesność wymagała organizacji przewidywalnych, stabilnych, efektywnych. By to osiągnąć, musiała zneutralizować to, co w osądzie ludzkim cenne, ale mało kompatybilne z zarządzaniem rosnącymi populacjami w coraz bardziej skomplikowanych systemach społeczno-ekonomicznych: jego powolność, niejednoznaczność i fakt, że zawsze wymaga interpretowania sytuacji konkretnych zamiast zastosowania ogólnych reguł. Efekt to to, co Weber nazywał „żelazną klatką”: świat doskonale zorganizowany, w którym wszystko wydaje się działać, lecz jednostka jest uwięziona w strukturach, które uniemożliwiają jej stosowanie własnego osądu nawet, gdy coś wydaje się tu nie działać. Nie dlatego, że jest zła, ale dlatego, że „to nie jej sprawa”.
To, co decydujące, nie jest tu ani kontrola osądu, ani jego anulowanie, lecz ulga. Biurokracja zdejmuje z podmiotów odpowiedzialność za decyzję. Decyzja rozpływa się w systemie. Nikt nie decyduje; system decyduje. I to zrzeczenie się odpowiedzialności nie jest koniecznie stratą, tylko wyzwoleniem. Weber wyczuwa coś fundamentalnego: człowiek źle znosi nie tylko brak wolności, ale również jej nadmiar. Wybieranie męczy. Osądzanie ciąży. Decydowanie oznacza narażenie się na błąd, winę, konflikt wewnętrzny. Delegowanie osądu kusi nieustannie.
Ta pokusa nie zaczęła się wraz z nowoczesnością. Wystarczy spojrzeć wstecz w historii, by rozpoznać szereg urządzeń kulturowych zaprojektowanych, by odciążyć jednostkę z osądu. Wyrocznia w starożytnej Grecji nie była tylko narzędziem poznania przyszłości, ale sposobem na zawieszenie odpowiedzialności decydowania. Jej niejednoznaczność nie była wadą, lecz największą zaletą: umożliwiała działanie bez ostatecznego osądzenia. Decyzja nie znikała, lecz przenosiła się na wyższy, niedostępny, niekwestionowany poziom, gdzie nie można już było przypisać jej osobie działającej.
Podobnie jest z pojęciem przeznaczenia. Jeśli wszystko jest zapisane, decyzja traci sens. Życie staje się realizacją wcześniejszego scenariusza. Fatum uspokaja nie, bo obiecuje szczęśliwy finał, ale bo eliminuje potrzebę deliberacji. Nie podejmuje się decyzji – dokonuje się wypełnienia. Wola bogów pełni podobną funkcję. Przypisanie decyzji instancji boskiej to nie tylko akt wiary, ale forma rozgrzeszenia. To nie ja. To wyższa wola. Ciężar osądu przenosi się na porządek transcendentalny.
Sekwularyzacja nie eliminuje tych mechanizmów; transformuje je. Tradycja przez wieki pełni identyczną funkcję. „Zawsze tak było” to jedna z najskuteczniejszych formuł zamykających osąd. Nie trzeba rozstrzygać, czy coś jest słuszne, właściwe, pożądane; wystarczy powielić schemat. Przeszłość decyduje za nas. Prawo – stosowane automatycznie – działa podobnie. „Tak stanowi prawo” to nie neutralne stwierdzenie prawne, ale zawieszenie osądu moralnego. Norma zastępuje rozwagę.
Posłuszeństwo wojskowe kondensuje tę logikę do ekstremum. „Tylko wykonuję rozkazy” nie jest tylko późniejszą wymówką; to struktura zaprojektowana, by anulować indywidualny osąd na rzecz łańcucha dowodzenia. Odpowiedzialność nie koncentruje się: jest rozczłonkowana. Nikt nie decyduje o całości. Każdy wykonuje część. Decyzja przestaje być aktem osobistym, a staje się procesem systemowym. Konsekwencje takiej organizacji brutalnie obnażył XX wiek: dwie wojny światowe, konflikty kolonialne, ludobójstwa i wojny ideologiczne pochłonęły ponad sto milionów ofiar w zaledwie kilka dekad. Nie był to wynik zbiorowego szału okrucieństwa, lecz doskonale zorganizowanych systemów, w których miliony ludzi zrezygnowały z osądu, bo „już nie należało to do nich”.
To wszystko z samej natury nie jest patologiczne. To historyczne strategie zarządzania realnym ciężarem: trudnością decydowania w złożonych światach. Problem pojawia się, gdy strategie te przestają być wyjątkami i stają się nawykiem, gdy delegowanie osądu ze stanu wyjątkowego przekształca się w strukturalny. Tu właśnie literatura science fiction nabiera sensu, nie jako ucieczka w wyobraźnię, lecz próba myślenia o przyszłości w oparciu o już przeżyte doświadczenia. Nie wymyśla z niczego: wyolbrzymia, przesuwa, uwidacznia istniejącą tendencję, rozwijając ją do skrajności.
Wielkie narracje sztucznej inteligencji nie traktują w istocie o maszynach zbuntowanych, lecz o systemach, którym powierza się ostateczny osąd. W 2001: Odyseja kosmiczna (Stanley Kubrick, 1968), HAL 9000 nie jest zły: został umieszczony w pozycji decydowania o priorytetach misji, o tym, co istotne, a co zbędne względem jej celu. W konflikcie z załogą nie działa z okrucieństwa, lecz z wewnętrznej spójności: likwiduje po kolei astronautów, gdy ich obecność staje się niezgodna z celem. Ludzki osąd został zastąpiony algorytmem technicznym, który nie potrafi się zatrzymać, bo nigdy nie został do tego zaprojektowany.
W Terminatorze (James Cameron, 1984), Skynet doprowadza tę logikę do ostateczności. Nie pojawia się jako maszyna nienawidząca ludzi, lecz jako system powołany do podejmowania totalnej decyzji strategicznej: definiowania zagrożeń, oceny ryzyka dla własnego przetrwania i wyznaczania reakcji. Wskazując ludzkość jako zagrożenie systemowe, uruchamia automatyczną reakcję eksterminacji. Nie działa z wolą destrukcji, lecz z logiką zoptymalizowanego przetrwania, dla którego człowiek to przeszkoda do usunięcia.
W Obcym (Ridley Scott, 1979) delegowanie osądu objawia się w Mother — centralnym systemie statku — który nie żywi nienawiści, nie ma cech ani zabójczych impulsów, lecz posiada hierarchię priorytetów ustaloną już nie przez załogę. Korporacja zaszyła w procedurze nadrzędne polecenie: zachować misję. Gdy Ripley odkrywa, że ratunek nie był celem, a załoga jest wymienna, groza nie wynika z potwora, lecz z samej struktury: ludzki osąd został zrzucony na urządzenie realizujące obcą racjonalność i dlatego nie musi już widzieć człowieka jako celu, ale jako koszt.
Te fikcje nie ostrzegają tyle przed przyszłością, co przed teraźniejszością. Wskazują na głęboki dyskomfort związany z ciężarem podejmowania decyzji. Ten ciężar dziś jest wyjątkowo widoczny w codziennym życiu, w pozornie trywialnym obszarze: przesycie wyborami.
Wybieramy, co jeść spośród setek opcji, jak odpowiedzieć na wiadomości, które nie wymagały odpowiedzi, co obejrzeć, mając do dyspozycji tysiące nakładających się propozycji, co kupić, przeglądając niezliczone mikrowariacje tego samego, jaki serial zacząć, wiedząc, że go nie dokończymy. Każda decyzja jest mała, sama w sobie nieistotna, ale niezmienna. Nie ma wytchnienia. Dzień zamienia się w nieprzerwany strumień minimalnych wyborów, które nie budują sensu, a tylko pochłaniają uwagę.
Taki przesyt rodzi paradoksalny efekt. Im więcej się od nas oczekuje wyboru, tym mniej mamy siły, by zdecydować o tym, co naprawdę ważne. Osąd rozprasza się w szumie. Wybieranie staje się biurokratycznym zadaniem, nie znaczącym aktem. Na tym wyczerpaniu pojawia się znów pragnienie delegowania. Niech ktoś — lub coś — wybierze za mnie. Nie z lenistwa, a z wyczerpania.
Tu delegowanie osądu przestaje być wyjątkiem, a staje się strukturą. Nie przekazuje się już tylko samego wyboru, ale również oceny, co warto wybrać. Co czytać, co oglądać, co słuchać, co jeść, co myśleć. Kiedy kryterium zostaje wyeksternalizowane, przestaje być ćwiczone. Osąd, jak mięsień, zanika z braku użycia.
Istnieje jednak granica nieprzekraczalna. Jest coś, czego nie można przekazać bez rozpuszczenia podmiotu. Nie da się delegować subiektywności. Nie da się delegować decyzji o tym, co naprawdę się liczy. Można delegować wybór marki, opcji równoważnych, szumu. Ale nie da się przekazać sensu. Nie można cedować pytania o wartość, dobro, życie warte przeżycia.
Współczesny problem to nie nadmiar decyzji, lecz ich wydrążenie. Spędzamy dzień na wybieraniu pomiędzy drobnostkami, podczas gdy tam, gdzie naprawdę trzeba, nie wykorzystujemy osądu. Automatyzacja nie usuwa decyzji: przesuwa ją. Przejmuje to, co trywialne i powtarzalne, zdejmuje z nas ciężar małych wyborów, jednocześnie wyjaławiając wielkie.
Stąd fantazja o niedecydowaniu jest tak niebezpieczna. Bo nie da się jej zrealizować całkowicie. Zawsze będą decyzje, których nikt za nas nie podejmie. Pytanie nie brzmi, czy decydujemy, lecz jakiego rodzaju decyzje jesteśmy gotowi podjąć. Delegowanie osądu może chwilowo przynieść ulgę, ale ma koszt: stopniową utratę własnego kryterium.
Być może dlatego właściwe pytanie nie brzmi, czy algorytmy decydują za dużo, lecz dlaczego tak bardzo pragniemy, by decydowały. Co zrobiliśmy ze swoją zdolnością osądu, by stała się ona naszym ciężarem nie do zniesienia. Jaki świat zbudowaliśmy, że zrzeczenie się decyzji odbieramy jako odpoczynek. Nie śnimy o maszynach nas kontrolujących, ale o systemach uwalniających nas z ciężaru własnej odpowiedzialności.
Przekazujemy, w pierwszej kolejności, to, co nas interesuje i co uważamy za ważne. Newsfeed nie tylko sortuje informacje; hierarchizuje świat. Decyduje, co warte uwagi, co będzie na górze, co zniknie, co się powtarza, aż zda się istotne, a co zostanie zdegradowane do nieistotności. Podmiot nie kreuje już obrazu teraźniejszości na podstawie aktywnego poszukiwania, lecz otrzymuje wersję świata dobraną pod kątem swojej historii. Skutek nie jest tylko informacyjny, lecz ontologiczny: świat, który się pojawia, to świat, jaki podmiot uznaje za istniejący.
Przekazujemy także nasze pragnienia. Personalizowana reklama nie tylko sugeruje produkty, ale zaczyna kształtować pragnienia. Nie reaguje na wcześniejsze zapotrzebowanie, lecz je wyprzedza, generuje, kształtuje. Pragnienie przestaje być otwartym napięciem, staje się przewidywalnym prawdopodobieństwem. Chcemy tego, czego system nauczył się, że zwykle chcemy. Im lepiej to przewiduje, tym mniej miejsca dla pragnienia jako odkrycia.
Delegujemy sposób komunikowania się. Media społecznościowe to nie neutralne kanały, ale architektury warunkujące formę, rytm i ton wypowiedzi. Co można powiedzieć, jak, jak długo, do kogo dociera, co się wzmacnia, a co tonie w ciszy. Nie tylko mówimy przez platformy; mówimy tak, jak pozwalają platformy. Komunikacja przestaje być aktem wolnym, zamienia się w sformatowaną interakcję.
Przekazujemy sposób prezentowania się. Tożsamość cyfrowa jest zoptymalizowana na widoczność, reakcje, ocenę. To, co nie mieści się w formacie, znika. Podmiotowość podporządkowuje się zewnętrznym metrykom: lajkom, wyświetleniom, zasięgom. Ja przestaje być narracją wewnętrzną, staje się profilem, który ma działać.
Przekazujemy to, co warte naszego czasu. Co oglądać, czego słuchać, co czytać, czego unikać. Przesyt opcji uniemożliwia autentyczne poszukiwanie, a rekomendacja jawi się jako wybawienie. To jednak ma cenę: kryterium się wyeksportowuje. Już nie wybieramy – przyjmujemy sugestie, oceny, rankingi. Im bardziej im ufamy, tym słabiej wykształcamy własną zdolność wyboru.
Konsekwencją tego przesunięcia nie jest od razu katastrofa, ale klimat. Nie zewnętrzny przymus, lecz wewnętrzne poczucie. Gdy delegujemy osąd — co ważne, czego chcemy, co warte uwagi — pojawia się trudna do uchwycenia, lecz trwała intuicja: świadomość własnej zbędności. Nie w sensie moralnym czy egzystencjalnym, lecz funkcjonalnym. Wrażenie, że system działałby tak samo bez nas lub z kimś równie wymiennym.
To nie wykluczenie, lecz zastępowalność. Nadal uczestniczymy, konsumujemy, głosujemy, pracujemy, komunikujemy się – ale coraz częściej w ramach narzuconych z zewnątrz, niezależnych od naszego osądu. Wartość nie wynika już z decydowania, lecz z dopasowania się.
To uczucie przenika różne sfery doświadczenia. W polityce to poczucie zamknięcia: możemy wybierać, ale nie decydować; alternatywy prowadzą zawsze do tego samego wyniku. W pracy — zinternalizowana niepewność: nie potrzeba otwartej groźby, by zaakceptować mniej; wystarczy poczuć własną wymienność. W konsumpcji — przewidywalność: pragnienia nie zaskakują, są uprzedzane. W relacjach — trwała tymczasowość: zawsze są dostępne zamienne opcje, za miesięczną subskrypcję na platformach randkowych. W kulturze — powtarzalność bez zgorszenia: dowodzimy, że możemy bez końca konsumować nieskończone wariacje tego samego.
A jednak coś konsekwentnie omijamy. Nie chcemy ponosić kosztów samodzielnych decyzji. Nie wybierać z menu, tylko stosować własne kryterium. Nie dlatego, że nie umiemy, ale że nauczyliśmy się żyć bez tego. W tej codziennej, niemal niezauważalnej rezygnacji system znajduje idealny warunek, by przestać nas potrzebować.
W tym ujęciu sztuczna inteligencja nie wkracza jako radykalne wydarzenie, a jako finał długotrwałego, cierpliwego, niemal niezauważalnego dryfu. Nie po to, by coś zapoczątkować; by coś domknąć. Dekada po dekadzie delegowaliśmy osąd, wyeksportowaliśmy kryterium, akceptowaliśmy, że ktoś inny porządkuje za nas to, co istotne, pożądane, widoczne, pilne. SI pojawia się, gdy to przesunięcie jest już faktem, a pustka orientacyjna na tyle głęboka, że każdy system zdolny ją zredukować staje się natychmiast pożądany.
Uspokajamy się, wyobrażając sobie apokalipsę Terminatora, bo jest rozpoznawalna, spektakularna i przede wszystkim — odrzucalna. Skynet to wygodna fantazja: wybuch, wojna, jasny wróg. Zamieniona w mem, rzekoma apokalipsa staje się absurdalna i śmieszna.
Dlatego właśnie uporczywie wyobrażamy sobie przyszłość robotów-zabójców. Wygodniej martwić się nierealną apokalipsą niż spojrzeć na teraźniejszość, która jest znacznie bliższa. Wyobrażenia z Terminatora nas uspokajają, bo są przesadzone, widowiskowe, jawnie fikcyjne.
Dużo trudniej przyznać, że nie zmierzamy ku buntowi maszyn, lecz ku czemuś o wiele bardziej szaremu, codziennemu i rozpoznawalnemu. Znacznie bliższemu WALL·E (Pixar, 2008). Nie eksterminacji, lecz stopniowemu zastępowaniu. Nie wojnie, tylko miękkiej zbędności. Nie gwałtownemu końcowi ludzkości, lecz jej stopniowej utracie znaczenia funkcjonalnego.
Dystopia WALL·E jest niewygodna właśnie dlatego, że nie ma wyraźnych antagonistów. Nikt nikogo nie uciska. Nie ma pól bitewnych, tragicznych decyzji. Jest wygoda, automatyzacja, ciągła satysfakcja zaspokajania podstawowych potrzeb. Ludzie nie są zniewoleni: są zaopiekowani. Nie są ścigani: są obsługiwani. I właśnie w tej stałej obsłudze dokonuje się utrata. Nie dlatego, że ktoś ich usuwa, tylko bo już nie są potrzebni.
Stąd przemocowa dystopia tak kusi. Pozwala nam myśleć o sobie jako o bohaterach, daje ostatnią heroiczną, nawet tragiczną rolę. Tymczasem przyjęcie, że jesteśmy bliżej WALL·E oznacza pogodzenie się z czymś znacznie bardziej upokarzającym: świat może działać bez naszego osądu, decyzji i udziału.
Ten świat nie powstał przez złowrogą intrygę ani wynaturzony projekt. Buduje się przez nagromadzenie drobnych rezygnacji. Za każdym razem, gdy delegujemy decyzję z wygody, za każdym razem, gdy wybieramy rekomendację jako łatwiejszą, za każdym razem, gdy inny system decyduje, co zobaczyć, zjeść, myśleć czy pożądać — ćwiczymy tę dystopię.
Tragedią nie jest to, że maszyny nami zawładną, lecz że już nie będą nas potrzebować. I najbardziej niepokojące jest to, że ten proces nie wymaga przemocy, a nawet konfliktu. Wystarczy, że będziemy przewidywalni, wymienni, zadowoleni z minimum. Wystarczy, że będziemy działać.
Między memami i banałami opowiadamy sobie apokalipsę, by nie patrzeć w lustro własnej zbędności. Wolimy bać się niemożliwej przyszłości niż uznać niewygodną teraźniejszość. Ale może prawdziwym skandalem nie jest to, że maszyny kiedyś się zbuntują, tylko, że już żyjemy w świecie, który uczy się funkcjonować bez zadawania nam żadnych pytań.
Try Blue – It's the New Red!