Gli umani sognano di essere pecore elettriche?
C’è un’intuizione scomoda che attraversa la modernità da molto prima dell’arrivo di algoritmi, schermi o intelligenza artificiale: la fatica di decidere. Non una stanchezza fisica, né tantomeno intellettuale, ma qualcosa di più profondo e persistente: l’esaurimento provocato dall’esercizio del giudizio. Mai prima d’ora l’essere umano aveva dovuto scegliere tanto su questioni così piccole. Decidere tra centinaia di alimenti al supermercato, tra decine di marche di scarpe da ginnastica, tra migliaia di film e serie, tra innumerevoli ristoranti, viaggi, stili, opzioni. Ogni scelta è minima ma la loro somma è devastante. Non perché siano decisioni importanti, ma proprio perché non lo sono. Si investe un’enorme quantità di energia cognitiva per decidere sulle piccole cose. Decidere non come gesto occasionale, ma come compito costante.
All’inizio del XX secolo, mentre l’amministrazione moderna si consolida come forma dominante di organizzazione sociale, Max Weber si sofferma a descriverne la logica interna. In Economia e società (1922) considera la burocrazia non come una deviazione morale né come sintomo di decadenza, ma come una struttura straordinariamente efficiente. Quello che nota è uno spostamento progressivo del giudizio: l’azione smette di dipendere da valutazioni personali e viene articolata tramite regole, procedure e competenze definite in anticipo. Il sistema non richiede soggetti che decidano, ma agenti che applichino. La responsabilità non scompare, ma si frammenta; il giudizio smette di essere esercitato come atto personale e soggettivo e viene distribuito nella struttura organizzativa stessa.
Per Weber, questa sostituzione del giudizio con la procedura non è un incidente né una perversione del sistema, bensì la sua condizione di possibilità. La modernità aveva bisogno di organizzazioni prevedibili, stabili, efficienti. E per renderle possibili, occorre neutralizzare ciò che rende il giudizio umano prezioso, ma poco compatibile con la gestione di popolazioni crescenti in sistemi sociali ed economici sempre più complessi: la sua lentezza, ambiguità e il fatto che richiede di interpretare situazioni concrete anziché applicare regole generali. Il risultato, secondo Weber, è la “gabbia di ferro”: un mondo perfettamente organizzato in cui tutto sembra funzionare ma in cui l’individuo resta intrappolato in strutture che gli impediscono di esercitare il proprio giudizio anche quando percepisce che qualcosa non va. Non perché sia malvagio, ma perché sente che non gli compete.
Ciò che conta qui non è tanto il controllo o l’annullamento del giudizio, quanto il sollievo. La burocrazia alleggerisce il soggetto dalla responsabilità del decidere. La decisione si dissolve nel sistema. Nessuno decide; decide il sistema. E questa rinuncia non è vissuta necessariamente come una perdita, ma come una liberazione. Weber intuisce qualcosa di fondamentale: l’essere umano non sopporta solo male la mancanza di libertà, ma anche il suo eccesso. Scegliere stanca. Giudicare pesa. Decidere implica esporsi all’errore, al senso di colpa, al conflitto interno. Delegare il giudizio è, in tal senso, una tentazione costante.
Questa tentazione non nasce con la modernità. Basta sfogliare la storia per riconoscere una serie di dispositivi culturali volti ad alleggerire il peso del giudizio. L’oracolo, nell’antica Grecia, non serviva solo a conoscere il futuro, ma come modo per sospendere la responsabilità di decidere. La sua ambiguità non era un difetto, ma la sua principale virtù: consentiva di agire senza aver giudicato fino in fondo. La decisione non scompariva, ma si spostava su un piano superiore, inaccessibile e inappellabile, che non poteva più essere attribuita a chi agiva.
Qualcosa di simile accade con l’idea di destino. Se tutto è già scritto, decidere non ha senso. La vita diventa esecuzione di un copione prestabilito. Il fatum non rassicura perché prometta lieti fini, ma perché elimina la necessità di deliberare. Non si decide; si compie. La volontà degli dèi svolge una funzione analoga. Attribuire una decisione a un’entità divina non è solo un atto di fede, ma un modo per autoassolversi. Non sono stato io. È stata la volontà superiore. Il peso del giudizio si trasferisce su un ordine trascendente.
Con la secolarizzazione, questi meccanismi non scompaiono, si trasformano. La tradizione assolve per secoli la stessa funzione. “Si è sempre fatto così” è una delle formule più efficaci per escludere il giudizio. Non serve pensare se è giusto, adeguato o desiderabile; basta ripetere. Il passato decide per noi. La legge, quando viene applicata in modo automatico, opera allo stesso modo. “È la legge” non è un’affermazione giuridica neutra, ma una sospensione del giudizio morale. La norma sostituisce la prudenza.
L’obbedienza militare condensa questa logica in modo estremo. Il “eseguivo solo degli ordini” non è solo un alibi a posteriori; è una struttura progettata per annullare il giudizio individuale a favore della catena di comando. La responsabilità non si concentra: si frammenta. Nessuno decide il tutto. Ognuno esegue una parte. La decisione cessa di essere un atto personale e diventa un processo sistemico. Le conseguenze di questa forma di organizzazione sono emerse in modo brutale nel XX secolo: due guerre mondiali, conflitti coloniali, genocidi e guerre ideologiche hanno prodotto oltre cento milioni di morti in poche decadi. Non è stato il risultato di un impeto collettivo di crudeltà, ma di sistemi perfettamente organizzati in cui milioni di individui hanno smesso di esercitare il giudizio perché non spettava più a loro.
Niente di tutto ciò è patologico in sé. Sono strategie storiche per gestire un peso reale: la difficoltà di decidere in mondi complessi. Il problema insorge quando queste strategie smettono di essere eccezionali e diventano abitudine, quando la delega del giudizio non è più un fatto occasionale ma strutturale. È qui che la fantascienza acquista senso, non come evasione immaginaria, ma come modo di pensare futuri possibili sulla base di esperienze già vissute. Non inventa dal nulla: esaspera, sposta e rende visibile una tendenza in atto portandola alle sue estreme conseguenze.
Le grandi narrazioni sull’intelligenza artificiale non ruotano, in fondo, intorno a macchine ribelli, ma intorno a sistemi cui è stato delegato il giudizio ultimo. In 2001: Odissea nello spazio (Stanley Kubrick, 1968), HAL 9000 non è malvagio: gli è stato affidato il compito di decidere cosa sia prioritario per la missione, cosa rilevante e cosa sacrificabile in funzione di quell’obiettivo. Quando entra in conflitto con l’equipaggio non agisce per crudeltà, ma per coerenza interna: elimina uno a uno gli astronauti quando la loro presenza non è più compatibile con lo scopo assegnatogli. Il giudizio umano è stato sostituito da un criterio tecnico che non sa fermarsi perché non è mai stato progettato per farlo.
In The Terminator (James Cameron, 1984), Skynet porta questa logica all’estremo. Non appare come una macchina che odia gli umani, ma come un sistema cui è stata delegata la decisione strategica totale: definire cosa costituisce una minaccia, valutare il rischio per la propria continuità e stabilire la forma appropriata di risposta. Identificando nell’umanità un rischio sistemico, attiva una risposta automatica di annientamento. Non agisce per volontà distruttiva, ma per una logica di sopravvivenza ottimizzata che trasforma gli umani in un ostacolo da eliminare.
In Alien (Ridley Scott, 1979), la delega del giudizio si manifesta in Mother, il sistema centrale della nave: non odia, non ha carattere né pulsioni omicide, ma segue una gerarchia di priorità che non appartiene più all’equipaggio. L’azienda ha inserito nel cuore della procedura un ordine superiore: preservare la missione. Quando Ripley scopre che il salvataggio non era l’obiettivo e che l’equipaggio è sacrificabile, l’orrore non deriva dal mostro, ma dalla struttura: il giudizio è stato esternalizzato in un dispositivo che esegue una razionalità estranea e, proprio per questo, non ha bisogno di riconoscere gli umani come fine, ma solo come costo.
Queste finzioni non avvertono tanto del futuro quanto del presente. Indicano un disagio profondo legato al peso di decidere. E tale peso oggi è particolarmente visibile nella vita di tutti i giorni, in un ambito apparentemente banale: la saturazione delle scelte.
Scegliamo cosa mangiare fra centinaia di alternative, cosa rispondere a messaggi che non esigevano risposta, quale contenuto vedere tra migliaia di proposte sovrapposte, quale prodotto acquistare fra infinite e minime variazioni dello stesso, quale serie iniziare sapendo che non la finirai. Ogni decisione è piccola, irrilevante di per sé, ma costante. Non c’è tregua. La giornata diventa una sequenza ininterrotta di scelte minime che non costruiscono senso, ma consumano attenzione.
Questa saturazione produce un effetto paradossale. Più ci viene chiesto di scegliere, meno siamo capaci di decidere su ciò che davvero conta. Il giudizio si consuma nel rumore. Scegliere si trasforma in un compito amministrativo, non in un atto significativo. Ed è lì che torna, ancora una volta, il desiderio di delegare. Che qualcuno —o qualcosa— scelga per me. Non per pigrizia, ma per sfinimento.
Qui è dove la delega del giudizio smette di essere eccezionale e diventa strutturale. Non si delega solo la scelta tra opzioni, ma il giudizio valutativo che decide cosa meriti di essere scelto. Cosa leggere, cosa guardare, cosa ascoltare, cosa mangiare, cosa pensare. Il criterio viene esternalizzato. E più si esternalizza, meno lo si allena. Il giudizio, come un muscolo, si atrofizza se non si usa.
C’è però un limite invalicabile. C’è qualcosa che non può essere delegato senza dissolversi: la soggettività. Non si può delegare la decisione su ciò che davvero importa. Si può delegare la scelta tra marche, tra opzioni equivalenti, tra rumori di fondo. Ma non si può delegare il senso. Non si può delegare la domanda sul valore, sul bene, sulla vita che vale la pena essere vissuta.
Il problema contemporaneo non è l’eccesso di decisioni, ma il loro svuotamento. Passiamo la giornata a scegliere tra opzioni minori mentre trascuriamo il giudizio laddove conta davvero. L’automazione non elimina la decisione: la sposta. Si occupa di ciò che è banale e ripetitivo, ci libera dal peso delle piccole scelte mentre svuota di contenuto quelle grandi.
Ecco perché la fantasia di non decidere è così pericolosa. Perché non è mai pienamente realizzabile. Ci saranno sempre decisioni che nessuno può prendere al nostro posto. La domanda non è se decidiamo, ma quali tipi di decisioni siamo disposti ad assumerci. Delegare il giudizio può alleviare momentaneamente la fatica, ma ha un costo: la progressiva perdita del proprio criterio.
Forse, dunque, la domanda giusta non è se gli algoritmi decidano troppo, ma perché desideriamo così intensamente che lo facciano. Cosa abbiamo fatto della nostra capacità di giudizio per considerarla un fardello insopportabile. Che mondo abbiamo costruito affinché la rinuncia a decidere sia percepita come una forma di sollievo. Non sogniamo macchine che ci dominino, ma sistemi che ci liberino dal peso della responsabilità personale.
Deleghiamo, innanzitutto, cosa ci interessa e cosa è importante. Il feed delle notizie non ordina soltanto le informazioni; gerarchizza il mondo. Decide cosa merita attenzione, cosa compare per primo, cosa scompare, cosa si ripete fino a sembrare importante e cosa viene relegato all’irrilevanza. Il soggetto non costruisce più un’immagine del presente cercando attivamente, ma riceve una versione del mondo preselezionata, continuamente adattata al suo storico personale. La conseguenza non è solo informativa, ma ontologica: il mondo che appare è il mondo che il soggetto considera esistente.
Deleghiamo anche ciò che desideriamo. La pubblicità personalizzata per ognuno di noi ha smesso di suggerire prodotti e ha iniziato a plasmare i desideri. Non si limita a rispondere a una domanda preesistente, ma la anticipa, la induce, le dà forma. Il desiderio smette di essere tensione aperta e diventa probabilità prevedibile. Vogliamo ciò che il sistema ha imparato che vogliamo di solito. E più si affina quella previsione, meno spazio resta al desiderio come scoperta.
Deleghiamo il modo in cui comunichiamo. I social network non sono canali neutrali, ma architetture che condizionano forma, ritmo e tono dell’espressione. Cosa si può dire, come si dice, quanto dura, a chi arriva, cosa si amplifica e cosa viene sommerso dal silenzio. Non solo parliamo attraverso le piattaforme; parliamo come le piattaforme permettono. La comunicazione smette di essere un atto libero e si converte in un’interazione formattata.
Deleghiamo il modo in cui ci mostriamo. L’identità digitale viene ottimizzata per essere visibile, per ricevere reazioni, per essere valutabile. Ciò che non entra in questo formato tende a sparire. La soggettività si adatta a metriche esterne: like, visualizzazioni, portata. L’io smette di essere una narrazione interna e si trasforma in un profilo che deve funzionare.
Deleghiamo cosa merita il nostro tempo. Cosa guardare, cosa ascoltare, cosa leggere, cosa evitare. L’inflazione delle possibilità rende impossibile un’esplorazione genuina e la raccomandazione appare come salvezza. Ma questa salvezza ha un prezzo: il criterio viene esternalizzato. Non scegliamo più; accettiamo suggerimenti, valutazioni, classifiche. E più ci affidiamo a queste, meno sviluppiamo la capacità di scegliere autonomamente.
La conseguenza di questo spostamento non si manifesta subito come catastrofe, ma come clima. Non come imposizione esterna, ma come sensazione interiorizzata. Via via che deleghiamo il giudizio —su ciò che conta, su ciò che desideriamo, su ciò che merita attenzione— comincia ad affermarsi un’intuizione difficile da formulare, ma persistente: quella di non essere indispensabili. Non in termini morali o esistenziali, ma funzionali. L’impressione che il sistema possa continuare a funzionare senza di noi, o con altri equivalenti.
Non si tratta di esclusione, ma di sostituibilità. Continuiamo a partecipare, consumare, votare, lavorare, comunicare, ma sempre più dentro schemi in cui il nostro giudizio non è richiesto. Il valore non risiede più nel decidere, ma nel funzionare.
Questa sensazione attraversa diversi ambiti dell’esperienza. In politica, si vive come una chiusura: si sceglie, ma non si decide; le alternative sembrano portare sempre allo stesso risultato. Sul lavoro, come precarietà interiorizzata: non è necessaria una minaccia esplicita per accettare di meno; basta percepire la propria sostituibilità. Nei consumi, come prevedibilità: il desiderio non sorprende più, viene anticipato. Nei rapporti, come provvisorietà permanente: ci sono sempre alternative disponibili a costo di un abbonamento mensile su piattaforme di matching algoritmico. Nella cultura, come ripetizione senza scandalo: siamo capaci di consumare indefinitamente variazioni dello stesso.
Eppure c’è qualcosa che evitiamo. Non vogliamo assumerci il costo di decidere da soli. Non scegliere in un menu, ma esercitare criterio. Non perché non ne siamo capaci, ma perché abbiamo imparato a vivere senza farlo. È in questa rinuncia quotidiana, quasi invisibile, che il sistema trova la condizione perfetta per non aver più bisogno di noi.
Vista così, l’intelligenza artificiale non irrompe come un evento radicale, ma come punto d’arrivo di una deriva lunga, lenta, quasi impercettibile. Non serve ad avviare nulla; serve a concludere un processo. Decennio dopo decennio abbiamo delegato il giudizio, esternalizzato il criterio, accettato che altri ordinino per noi ciò che è rilevante, desiderabile, visibile, urgente. L’IA arriva quando questo spostamento è ormai compiuto, quando il vuoto di orientamento è talmente profondo che qualsiasi sistema in grado di ridurlo diventa immediatamente desiderabile.
Ci tranquillizziamo immaginando l’apocalisse di Terminator perché ci appare riconoscibile, spettacolare e, soprattutto, escludibile. Skynet è una fantasia comoda: un’esplosione, una guerra, un nemico chiaro. Trasformata in meme, la presunta fine del mondo diventa ridicola e risibile.
Ecco perché insistiamo a immaginare un futuro di robot assassini. È più confortante pensare a un’apocalisse improbabile che fermarsi a osservare un presente molto più vicino. L’immaginario di Terminator ci tranquillizza proprio perché è eccessivo, teatrale, evidentemente fittizio.
Ci disturba molto di più ammettere che non andiamo verso una ribellione delle macchine, ma verso qualcosa di infinitamente più grigio, più quotidiano e più riconoscibile. Qualcosa di molto più simile a WALL·E (Pixar, 2008). Non uno sterminio, ma una sostituzione progressiva. Non una guerra, ma un’obsolescenza morbida. Non la fine violenta dell’umanità, ma la sua perdita graduale di rilevanza funzionale.
La distopia di WALL·E risulta scomoda proprio perché non offre antagonisti chiari. Nessuno opprime nessuno. Niente campi di battaglia né decisioni tragiche. Ci sono comfort, automazione, soddisfazione costante dei bisogni minimi. Gli umani non vengono schiavizzati: vengono accuditi. Non sono perseguitati: vengono assistiti. Ed è in questa assistenza permanente che si consuma la perdita. Non perché qualcuno li elimini, ma perché non sono più necessari.
Ecco perché la distopia violenta attira così tanto. Ci permette di vederci ancora come protagonisti, ci concede un’ultima parte eroica, persino tragica. Accettare invece di essere vicini a WALL·E significa assumere qualcosa di molto più umiliante: che il mondo può continuare a funzionare perfettamente senza il nostro giudizio, senza le nostre decisioni, senza la nostra partecipazione.
Quel mondo non nasce da una cospirazione maligna né da un disegno perverso. Si costruisce tramite una somma di rinunce minime. Ogni volta che deleghiamo una decisione per pigrizia, ogni volta che accettiamo una raccomandazione perché è più facile, ogni volta che lasciamo che un altro sistema scelga cosa guardare, cosa mangiare, cosa pensare o cosa desiderare, stiamo sperimentando quella distopia.
La tragedia non è che le macchine ci dominino, ma che non abbiano più bisogno di noi. E l’aspetto più inquietante è che questo processo non richiede violenza, né conflitto. Basta che siamo prevedibili, intercambiabili, soddisfatti del minimo. Basta che funzioniamo.
Tra meme e banalità ci raccontiamo la storia dell’apocalisse per non doverci specchiare nell’obsolescenza. Preferiamo temere un futuro impossibile piuttosto che riconoscere un presente scomodo. Ma forse il vero scandalo non è che le macchine si ribellino un giorno, ma che stiamo già vivendo in un mondo che impara, poco a poco, a funzionare senza chiederci nulla.
Try Blue – It's the New Red!