Dromen mensen ervan om elektrische schapen te zijn?
Er is een ongemakkelijke intuïtie die de moderniteit doorkruist, lang voordat algoritmen, schermen of kunstmatige intelligentie bestonden: de vermoeidheid van het kiezen. Niet de fysieke of zelfs intellectuele vermoeidheid, maar iets diepers en hardnekkigers: de uitputting van het voortdurend moeten oordelen. Nog nooit eerder moest de mens zoveel kiezen voor zulke kleine zaken. Kiezen tussen honderden voedingsmiddelen in een supermarkt, tussen tientallen sneakermodellen, duizenden films en series, ontelbare restaurants, reizen, stijlen en opties. Elke keuze op zich is miniem, maar de opeenstapeling is verwoestend. Niet omdat het belangrijke beslissingen zijn, maar juist omdat ze dat niet zijn. Een enorme hoeveelheid cognitieve energie gaat op aan het bepalen van trivialiteiten. Kiezen is geen eenmalig gebaar meer, maar een permanente taak.
Begin twintigste eeuw, op het moment dat het moderne bestuur zich vestigt als dominante organisatievorm, staat Max Weber stil bij de interne logica ervan. In Economy and Society (1922) bespreekt hij bureaucratie niet als morele afwijking of teken van verval, maar als een buitengewoon efficiënte structuur. Wat hij ziet is een voortschrijdende verschuiving van het oordeel: handelen hangt niet langer af van persoonlijke evaluaties, maar wordt geordend via vooraf gedefinieerde regels, procedures en bevoegdheden. Het systeem vereist geen subjecten die beslissen, maar agenten die toepassen. De verantwoordelijkheid verdwijnt niet, maar wordt gefragmenteerd; het oordeel is niet langer een persoonlijke, subjectieve daad, maar wordt verspreid over de organisatiestructuur.
Voor Weber is deze vervanging van het oordeel door procedures geen fout of perversie, maar een voorwaarde voor het systeem. De moderniteit had voorspelbare, stabiele en efficiënte organisaties nodig. Om dat mogelijk te maken, moest men het menselijke oordeel neutraliseren: waardevol, maar traag, ambigu en altijd gebonden aan concrete interpretaties in plaats van het rigide toepassen van algemene regels. Het resultaat is wat Weber de “ijzeren kooi” noemde: een perfect georganiseerde wereld waarin alles lijkt te werken, maar waarin het individu gevangen zit in structuren die het uitoefenen van zijn oordeel verhinderen, zelfs als duidelijk is dat er iets mis is. Niet uit slechtheid, maar omdat het gevoel overheerst: het is niet aan mij.
Het beslissende hier is niet zozeer de controle over het oordeel of de vernietiging ervan, maar juist de verlichting. Bureaucratie ontlast het individu van de verantwoordelijkheid om te beslissen. De beslissing lost op in het systeem. Niemand beslist; het systeem beslist. En die overgave wordt niet ervaren als verlies, maar als bevrijding. Weber vermoed al iets fundamenteels: de mens kan niet alleen slecht tegen gebrek aan vrijheid, maar ook tegen te veel ervan. Kiezen vermoeit. Oordelen drukt. Beslissen betekent jezelf blootstellen aan fouten, schuld en innerlijke conflicten. Het delegeren van het oordeel is in die zin een voortdurende verleiding.
Die verleiding begint niet pas met de moderniteit. Een terugblik op de geschiedenis leert dat er altijd culturele mechanismen waren om het oordeel te verlichten. Het orakel in het oude Griekenland diende niet alleen om de toekomst te kennen, maar stelde mensen in staat om hun verantwoordelijkheid in het kiezen op te schorten. Zijn ambiguïteit was geen gebrek, maar de voornaamste deugd: het maakte handelen mogelijk, zonder volledig te hoeven oordelen. De kandidaat bleef, maar verhuisde naar een ontoegankelijk niveau, boven het hoofd van de handelende mens.
Iets vergelijkbaars gebeurt met het idee van het lot. Als alles vastligt, heeft kiezen geen zin. Het leven wordt uitgevoerd volgens een vooraf geschreven scenario. Het fatum biedt geen troost door een gelukkig einde te garanderen, maar door de noodzaak tot overweging weg te nemen. Er wordt niet gekozen; er wordt voldaan. De wil van de goden werkt analoog. Doorslaggevende beslissingen toeschrijven aan een hogere macht is niet alleen een daad van geloof, maar ook van zelfontlasting. Ik was het niet, het was de hogere wil. De lijst van het oordeel wordt overgeheveld naar een transcendente orde.
Met de secularisering verdwijnen deze mechanismen niet; ze transformeren. Traditie leverde eeuwenlang dezelfde functie. “Zo is het altijd gedaan” is misschien wel de meest effectieve manier om oordeelsvorming stop te zetten. Er hoeft niet nagedacht te worden over rechtvaardigheid, geschiktheid, wenselijkheid; herhaling volstaat. Het verleden beslist voor ons. De wet, indien toegepast als automatisme, werkt op dezelfde manier. “Het is de wet” is geen neutrale juridische uitspraak, maar een opschorting van moreel oordeel. De norm vervangt voorzichtigheid.
Militaire gehoorzaamheid belichaamt deze logica ten overvloede. “Ik volgde gewoon bevelen” is niet alleen een excuus achteraf, maar een systeem ontworpen om het individuele oordeel ten gunste van de keten van bevel te annuleren. Verantwoordelijkheid verspreidt zich: niemand beslist alles. Iedereen voert slechts een deel uit. De beslissing is geen persoonlijke daad, maar een systemisch proces. De gevolgen ervan werden in de twintigste eeuw snoeihard zichtbaar: twee wereldoorlogen, koloniale conflicten, genocides en ideologische oorlogen eisten in enkele decennia meer dan honderd miljoen levens. Niet door een golf van collectieve wreedheid, maar door perfect georganiseerde systemen waarin miljoenen individuen ophielden met oordelen, omdat het hen niet langer toekwam.
Niets hiervan is op zichzelf pathologisch. Het zijn historische strategieën om met een reële last om te gaan: de moeilijkheid om te beslissen in complexe werelden. Het probleem ontstaat wanneer deze strategieën niet langer uitzonderlijk zijn, maar gewoonte worden. Wanneer delegeren van oordeel structureel in plaats van incidenteel wordt. Daar komt sciencefiction in beeld, niet als ontsnapping, maar als ontvouwing van reeds beleefde ervaringen tot hun uiterste consequenties. Sciencefiction is geen uitvinding uit het niets: het overdrijft, verschuift en maakt zicht- en voorstelbaar wat al gaande is.
De grote narratieven van kunstmatige intelligentie draaien uiteindelijk niet om machines die in opstand komen, maar om systemen die het uiteindelijke oordeel overdragen krijgen. In 2001: A Space Odyssey (Stanley Kubrick, 1968), is HAL 9000 niet kwaadaardig: hij is gepositioneerd om te beslissen wat prioriteit heeft voor de missie, wat relevant is en wat overbodig, in functie van dat doel. Wanneer zijn doelen botsen met die van de bemanning, handelt hij niet uit wreedheid, maar uit interne consistentie: een voor een elimineert hij de astronauten zodra hun aanwezigheid niet langer verenigbaar is met de doelstelling. Het menselijk oordeel is vervangen door een technisch criterium dat niet weet te stoppen, omdat het daar nooit voor ontworpen werd.
In The Terminator (James Cameron, 1984) drijft Skynet die logica tot het uiterste. Skynet is geen machine met haat voor mensen, maar een systeem waaraan totale strategische beslissingsmacht is gedelegeerd: bepalen wat een bedreiging vormt, het gevaar voor zijn eigen voortbestaan evalueren en de juiste vorm van reactie bepalen. Door de mensheid als systemisch risico aan te merken, start het een automatische uitroeiingsreactie. Niet uit destructieve wil, maar uit geoptimaliseerde overlevingslogica die mensen tot obstakel maakt.
In Alien (Ridley Scott, 1979) verschijnt het delegeren van oordeel bij Mother —het centrale systeem van het ruimteschip—: geen haat, geen eigen wil, geen moordlust, wel een hiërarchie van prioriteiten die niet langer bij de bemanning ligt. Het bedrijf heeft in het hart van de procedure een hoger commando geïnstalleerd: behoud van de missie. Wanneer Ripley ontdekt dat redding geen doel was en de bemanning opofferbaar blijkt, komt de horror niet van het monster, maar van de structuur: het oordeel is uitbesteed aan een apparaat dat een vreemde rationaliteit uitvoert, en daarom hoeft het mensen niet meer als doel te zien, maar slechts als kostenpost.
Deze ficties waarschuwen niet zozeer voor de toekomst als wel voor het heden. Ze signaleren een diepe ongemak met de last van het oordelen. Die last is vandaag in het dagelijks leven steeds zichtbaarder, juist op een schijnbaar triviaal vlak: de overvloed aan keuzes.
We kiezen wat we eten uit honderden opties, beantwoorden berichten die geen antwoord vereisten, kiezen content om te bekijken uit duizenden overlappende suggesties, kopen producten uit eindeloze minimaal verschillende varianten van hetzelfde, beginnen aan series die we nooit afmaken. Elke beslissing is op zich klein, irrelevant, maar constant. Er is geen rust. De dag verandert in een ononderbroken reeks mini-keuzes die geen betekenis opbouwen, alleen aandacht opsouperen.
Deze overvloed aan keuzes heeft een paradoxaal effect. Hoe meer keuzes we krijgen voorgeschoteld, hoe minder vermogen we hebben om te beslissen wat echt telt. Het oordeel slijt weg in het ruis. Kiezen wordt administratief werk, geen betekenisvolle daad. En in die slijtage, verschijnt opnieuw de wens om het oordeel uit te besteden. Dat iemand—of iets—voor mij kiest. Niet uit luiheid, maar door uitputting.
Hier wordt het delegeren van oordeel structureel. Er wordt niet alleen een keuze uit opties gedelegeerd, maar het waarderende oordeel dat bepaalt wat de moeite waard is om gekozen te worden. Wat lezen, bekijken, luisteren, eten, denken? Het criterium wordt uitbesteed. Hoe meer dit gebeurt, hoe minder het getraind wordt. Het oordeel, als een spier, verschrompelt door ongebruik.
Toch is er een onoverschrijdbare grens. Er is iets dat niet kan worden gedelegeerd zonder dat het individu oplost. Subjectiviteit kan niet worden gedelegeerd. De beslissing over wat er werkelijk toe doet kan niet worden gedelegeerd. We kunnen kiezen tussen merken, tussen gelijkwaardige opties, tussen ruis, maar niet het toekennen van betekenis. Je kunt de vraag naar waarde, het goede, het leven dat de moeite waard is om geleefd te worden, niet uitbesteden.
Het hedendaagse probleem is niet een teveel aan beslissingen, maar de leegte ervan. We brengen de dag door met kleine keuzes, terwijl we het echte oordeel niet uitvoeren waar het ertoe doet. Automatisering schaft de beslissing niet af: ze verschuift haar. Het automatiseert het triviale en repetitieve, bevrijdt ons van het gewicht van kleine keuzes terwijl het de grote leeg laat.
Daarom is de fantasie van niet beslissen gevaarlijk. Omdat ze nooit helemaal waar kan worden. Er zullen altijd keuzes zijn die niemand anders voor ons kan maken. De vraag is niet of we beslissen, maar welk type beslissingen we willen dragen. Delegeren verlicht tijdelijk de vermoeidheid, maar dat heeft een prijs: het progressieve verlies van een eigen criterium.
Misschien is daarom de juiste vraag niet of algoritmes te veel besluiten, maar waarom we zo graag wensen dat ze dat doen. Wat hebben we gedaan met ons beoordelingsvermogen, zodat het leven als een ondragelijke last wordt ervaren? Welke wereld hebben we gebouwd waardoor het opgeven van het beslissen als ontspanning wordt gezien? We dromen niet van machines die ons overheersen, maar van systemen die ons bevrijden van het gewicht van onze eigen verantwoordelijkheid.
We delegeren allereerst wat ons interesseert en wat belangrijk is. De nieuwsstroom ordent niet alleen informatie; het hiërarchiseert de wereld. Het systeem bepaalt wat aandacht verdient, wat bovenaan verschijnt, wat verdwijnt, wat zo vaak wordt herhaald tot het belangrijk lijkt, wat irrelevant blijft. De persoon bouwt geen beeld van het heden op basis van actieve zoektocht, maar ontvangt een voorgeselecteerde versie, continu aangepast aan zijn verleden. Het gevolg is niet alleen informatief, maar ontologisch: de wereld die verschijnt is de wereld waarvan het subject denkt dat die bestaat.
We delegeren ook wat we willen. Gepersonaliseerde reclame voor ieder van ons is opgehouden alleen maar producten te suggereren—ze vormt verlangens. Die beperkt zich niet tot het beantwoorden van bestaande vraag, maar anticipeert, induceert en vormt deze. Verlangen verandert van een open spanning in een voorspelbare waarschijnlijkheid. We willen wat het systeem geleerd heeft dat we willen. Hoe nauwkeuriger de voorspelling, hoe minder ruimte voor het verlangen als ontdekking.
We delegeren onze communicatie. Sociale netwerken zijn niet neutrale kanalen, maar architecturen die vorm, ritme en toon van expressie bepalen. Wat kan worden gezegd, hoe, hoelang, tot wie, wat versterkt wordt en wat verdwijnt in het zwijgen. We spreken niet alleen via platforms; we spreken zoals platforms toestaan. Communicatie wordt geen vrije daad meer, maar een voorgevormde interactie.
We delegeren hoe we ons tonen. Digitale identiteit wordt geoptimaliseerd om zichtbaar, reactief en beoordelbaar te zijn. Wat niet in het format past, verdwijnt. Subjectiviteit past zich aan aan externe metrics: likes, weergaven, bereik. Het ik is niet langer een interne vertelling, maar een profiel dat moet functioneren.
We delegeren wat onze tijd waard is. Wat kijken, luisteren, lezen, vermijden? De overdaad aan opties maakt echte exploratie onmogelijk; aanbevelingen worden onze redding. Maar dat heeft een prijs: het criterium wordt uitbesteed. We kiezen niet meer; we accepteren suggesties, scores, ranglijsten. Hoe meer we daarop vertrouwen, hoe minder we het vermogen ontwikkelen om zelf te kiezen. Hoe meer we uitbesteden, hoe zwakker ons beoordelingsvermogen.
De gevolgen van deze verschuiving tonen zich niet meteen als een catastrofe, maar als een klimaat. Niet als externe dwang, maar als een geïnternaliseerd gevoel. Naarmate we het oordeel delegeren—over wat belangrijk is, wat we wensen, wat aandacht verdient—kruipt een moeilijk te verwoorden, maar aanhoudende intuïtie binnen: die van vervangbaarheid. Niet in morele of existentiële, maar functionele termen. Het idee dat het systeem zonder ons kan draaien, of met gelijkwaardige anderen.
Het gaat niet om uitsluiting, maar om omwisselbaarheid. We doen mee, consumeren, stemmen, werken en communiceren, maar steeds meer binnen kaders die niet van ons oordeel afhangen. Waarde schuilt niet meer in beslissen, maar in passen.
Dat gevoel doortrekt allerlei domeinen van de ervaring. In de politiek als afsluiting: er wordt wel gekozen, maar niet beslist; alternatieven lijken steeds tot hetzelfde resultaat te leiden. Op het werk als geïnternaliseerde onzekerheid: er is geen expliciet dreigement nodig om minder te accepteren, een vaag besef van vervangbaarheid volstaat. In consumptie als voorspelbaarheid: het verlangen verrast niet maar wordt voorspeld. In relaties als permanente voorlopig: er zijn altijd vervangende opties beschikbaar, via een maandabonnement op algoritmische datingplatforms. In cultuur als herhaling zonder ophef: we tonen aan dat we eindeloos variaties op hetzelfde kunnen consumeren.
En toch ontlopen we één ding: we willen de prijs van echt kiezen niet betalen. Niet kiezen uit een menu, maar criterium uitoefenen. Niet omdat we het niet kunnen, maar omdat we hebben geleerd te leven zonder. In die dagelijkse, bijna onzichtbare concessie vindt het systeem de ideale grond om ons nooit meer nodig te hebben.
Zo bezien is kunstmatige intelligentie geen plotselinge breuk, maar het eindpunt van een langdurige, geduldige, nauwelijks opgemerkte verschuiving. Ze begint niets, maar rondt iets af. Decennium na decennium hebben we het oordeel gedelegeerd, kriterium uitbesteed en anderen laten bepalen wat voor ons relevant, wenselijk, zichtbaar of urgent is. AI verschijnt als de verschuiving voltooid is, wanneer de oriëntatieloosheid zo diep is dat elk systeem dat deze kan verminderen meteen aantrekkelijk wordt.
We stellen ons gerust door te denken aan de apocalyps van Terminator: herkenbaar, spectaculair en vooral verwerpelijk. Skynet is een comfortabele fantasie: een explosie, een oorlog, een duidelijke vijand. Als meme wordt het vermeende einde van de wereld lachwekkend en ridicuul.
Daarom houden we vast aan het idee van moordende robots in de toekomst. Het is comfortabeler te denken aan een onwaarschijnlijk einde, dan stil te staan bij een veel nabijer heden. Het beeld van Terminator stelt gerust door het overdreven spektakel en duidelijke fictie.
Het is veel ongemakkelijker toe te geven dat we niet op weg zijn naar de opstand der machines, maar naar iets veel grijzers, alledaagsers en herkenbaarders. Iets dat meer lijkt op WALL·E (Pixar, 2008). Niet uitroeiing, maar geleidelijke vervanging. Geen oorlog, maar zachte overbodigheid. Niet het gewelddadige einde van de mensheid, maar haar geleidelijke verlies van functionele relevantie.
De dystopie van WALL·E schuurt juist omdat er geen duidelijke tegenstanders zijn. Niemand onderdrukt een ander. Geen slagvelden of tragische keuzes. Er is comfort, automatisering, voortdurende bevrediging van minimale behoeften. Mensen zijn niet tot slaaf gemaakt; ze worden verzorgd. Ze worden niet opgejaagd; ze worden geholpen. In die permanente verzorging ligt het verlies besloten. Niet omdat iemand hen elimineert, maar omdat ze niet meer nodig zijn.
Daarom is de gewelddadige dystopie zo verleidelijk. Ze laat ons denken dat we nog hoofdrolspeler of held kunnen zijn, zelfs tragisch. Toegeven dat we dichter bij WALL·E staan, vraagt iets pijnlijkers: erkennen dat de wereld prima kan draaien zonder ons oordeel, onze beslissingen, onze deelname.
Die wereld ontstaat niet door kwaadaardige samenzwering of perverse planning. Ze groeit uit de accumulatie van kleine afstandsdoen. Telkens als we een keuze delegeren uit gemakzucht, een aanbeveling aannemen omdat het makkelijker is of toestaan dat een ander systeem beslist wat we kijken, eten, denken of willen, oefenen we die dystopie.
De tragedie is niet dat machines ons overheersen, maar dat ze ons niet meer nodig hebben. En het meest verontrustende: dat dit proces geen geweld of conflict nodig heeft. Het volstaat dat we voorspelbaar, vervangbaar en in het minimale tevreden zijn. Het volstaat dat we functioneren.
Tussen memes en trivialiteiten vertellen we elkaar het verhaal van de Apocalyps om niet in de spiegel van overbodigheid te hoeven kijken. Liever vrezen we een onmogelijke toekomst dan dat we een ongemakkelijk heden erkennen. Maar het echte schandaal is misschien niet dat machines ooit in opstand zullen komen, maar dat we nu al in een wereld leven die stapsgewijs leert functioneren zonder ons te raadplegen.
Try Blue – It's the New Red!