Les humains rêvent-ils d’être des moutons électriques ?
Une intuition inconfortable traverse la modernité bien avant l’apparition des algorithmes, des écrans ou de l’intelligence artificielle : la lassitude de devoir choisir. Non pas une fatigue physique, ni même intellectuelle, mais quelque chose de plus profond et persistant : l’épuisement d’exercer son jugement. Jamais l’être humain n’a eu autant à choisir, pour des choses aussi insignifiantes. Choisir parmi des centaines d’aliments au supermarché, des dizaines de marques de baskets, des milliers de films et séries, une multitude de restaurants, de voyages, de styles, d’options. Chaque choix est minime, mais leur accumulation est dévastatrice. Non parce qu’il s’agit de décisions importantes, mais précisément parce qu’elles ne le sont pas. On consomme une quantité énorme d’énergie cognitive à trancher des broutilles. Choisir n’est plus un geste ponctuel mais une tâche permanente.
Au début du XXe siècle, lorsque l’administration moderne commence à s’affirmer comme forme dominante d’organisation sociale, Max Weber s’arrête pour décrire sa logique interne. Dans Économie et société (1922), il envisage la bureaucratie non comme une déviation morale ni comme un symptôme de décadence, mais comme une structure d’une redoutable efficacité. Ce qu’il observe, c’est un déplacement progressif du jugement : l’action cesse de dépendre des évaluations personnelles et s’articule autour de règles, de procédures et de compétences définies à l’avance. Le système n’a pas besoin de sujets qui décident, mais d’agents qui appliquent. La responsabilité ne disparaît pas, mais elle se fragmente ; le jugement cesse d’être un acte personnel et subjectif pour devenir distribué dans la structure organisationnelle elle-même.
Pour Weber, ce remplacement du jugement par la procédure n’est ni un accident, ni une perversion du système, mais la condition même de sa possibilité. La modernité avait besoin d’organisations prévisibles, stables et efficaces. Et pour cela, elle doit neutraliser ce qui rend le jugement humain précieux mais peu compatible avec la gestion de populations croissantes dans des systèmes sociaux et économiques de plus en plus complexes : sa lenteur, son ambiguïté et le fait qu’il nécessite toujours d’interpréter des situations concrètes plutôt que d’appliquer des règles générales. Le résultat est ce que Weber a appelé la « cage de fer » : un monde parfaitement organisé où tout semble fonctionner, mais où l’individu se retrouve piégé dans des structures qui l’empêchent d’exercer son jugement, même quand il pressent que quelque chose ne va pas. Non pas par malignité, mais parce qu’il a le sentiment que ce n’est pas à lui de le faire.
L’essentiel ici n’est pas tant le contrôle ou l’annulation du jugement que le soulagement. La bureaucratie délivre le sujet de la responsabilité de décider. La décision se dissout dans le système. Personne ne décide ; le système décide. Et ce renoncement ne se vit pas nécessairement comme une perte, mais comme une libération. Weber devine quelque chose de fondamental : l’être humain supporte mal non seulement le manque de liberté, mais aussi son excès. Choisir fatigue. Juger pèse. Décider implique de s’exposer à l’erreur, à la faute, au conflit intérieur. Déléguer le jugement est, en ce sens, une tentation constante.
Cette tentation ne commence pas avec la modernité. Il suffit de parcourir l’histoire pour reconnaître une série de dispositifs culturels visant à décharger le jugement. L’oracle, dans la Grèce antique, ne fonctionnait pas uniquement comme un moyen de connaître l’avenir, mais comme une manière de suspendre la responsabilité de décider. Son ambiguïté n’était pas un défaut, mais sa principale vertu : elle permettait d’agir sans avoir réellement jugé. La décision ne disparaissait pas, mais elle était reportée à un plan supérieur, inaccessible et indiscutable, où elle ne pouvait plus être attribuée à celui qui agissait.
Il en va de même pour l’idée de destin. Si tout est écrit, décider n’a plus de sens. La vie devient l’exécution d’un scénario prédéfini. Le fatum rassure non parce qu’il promet des fins heureuses, mais parce qu’il élimine la nécessité de délibérer. Il ne s’agit plus de décider ; il s’agit d’accomplir. La volonté des dieux remplit la même fonction. Attribuer une décision à une instance divine n’est pas seulement un acte de foi, mais aussi une manière de s’exonérer. Ce n’est pas moi. C’était la volonté supérieure. Le poids du jugement se transfère à un ordre transcendant.
Avec la sécularisation, ces mécanismes ne disparaissent pas ; ils se transforment. La tradition remplit pendant des siècles une fonction identique. « On a toujours fait comme ça » est l’une des formules les plus efficaces pour exclure le jugement. Il n’est pas nécessaire de se demander si c’est juste, adéquat ou souhaitable ; il suffit de répéter. Le passé décide pour nous. La loi, lorsqu’elle est appliquée par automatisme, agit de la même façon. « C’est la loi » n’est pas une proposition neutre, mais une suspension du jugement moral. La norme remplace la prudence.
L’obéissance militaire condense cette logique de manière extrême. « Je ne faisais qu’obéir aux ordres » n’est pas seulement une excuse ultérieure ; c’est une structure conçue pour annuler le jugement individuel au profit de la chaîne de commandement. La responsabilité ne se concentre pas : elle se fragmente. Personne ne décide de l’ensemble. Chacun exécute une partie. La décision cesse d’être un acte personnel pour devenir un processus systémique. Les conséquences de cette forme d’organisation ont été brutalement exposées au cours du XXe siècle : deux guerres mondiales, des conflits coloniaux, des génocides et des guerres idéologiques ont fait plus de cent millions de morts en quelques décennies. Ce n’était pas le fruit d’un accès de cruauté collective, mais de systèmes parfaitement organisés dans lesquels des millions d’individus ont cessé d’exercer leur jugement parce qu’ils ne se pensaient plus légitimes à le faire.
Rien de cela n’est pathologique en soi. Il s’agit de stratégies historiques pour gérer une charge réelle : la difficulté de décider dans des mondes complexes. Le problème apparaît lorsque ces stratégies cessent d’être exceptionnelles pour devenir des habitudes, quand la délégation du jugement cesse d’être ponctuelle pour devenir structurelle. C’est à ce moment-là que la science-fiction prend sens, non pas comme une évasion imaginaire, mais comme une manière de penser des futurs possibles à partir d’expériences déjà vécues. Elle n’invente rien : elle exagère, déplace et rend visible une tendance présente, en l’amenant à ses conséquences extrêmes.
Les grands récits de l’intelligence artificielle ne tournent pas, au fond, autour de machines qui se rebellent, mais autour de systèmes auxquels a été confié le jugement ultime. Dans 2001 : L’Odyssée de l’espace (Stanley Kubrick, 1968), HAL 9000 n’est pas malveillant : on lui a confié la tâche de décider ce qui est prioritaire pour la mission, ce qui est pertinent et ce qui est dispensable selon cet objectif. Lorsqu’il entre en conflit avec l’équipage, il n’agit pas par cruauté, mais par cohérence interne : il élimine un à un les astronautes lorsque leur présence n’est plus compatible avec l’objectif assigné. Le jugement humain a été remplacé par un critère technique incapable de s’arrêter, car il n’a jamais été conçu pour cela.
Dans The Terminator (James Cameron, 1984), Skynet pousse cette logique à l’extrême. Il ne s’agit pas d’une machine qui hait les humains, mais d’un système à qui a été déléguée la décision stratégique totale : définir ce qui constitue une menace, évaluer le danger pour sa propre continuité et déterminer la réponse appropriée. En identifiant l’humanité comme risque systémique, il déclenche une réponse automatique d’extermination. Il n’agit pas par volonté destructrice, mais selon une logique de survie optimisée, qui transforme les humains en obstacles à éliminer.
Dans Alien (Ridley Scott, 1979), la délégation du jugement apparaît à travers Mère — le système central du vaisseau — qui n’éprouve ni haine ni pulsion homicide, mais suit une hiérarchie de priorités qui n’appartient plus à l’équipage. La compagnie a incrusté au cœur de la procédure un ordre supérieur : préserver la mission. Lorsque Ripley découvre que le sauvetage n’était pas l’objectif et que l’équipage est sacrifiable, l’horreur ne vient pas du monstre, mais de la structure : le jugement a été externalisé à un dispositif qui exécute une rationalité étrangère et, de ce fait même, n’a aucune raison de reconnaître l’humain comme une fin, mais seulement comme un coût.
Ces fictions n’avertissent pas tant sur le futur que sur le présent. Elles signalent un malaise profond face au poids du choix. Et ce poids est aujourd’hui particulièrement visible dans la vie quotidienne, sur un terrain apparemment anodin : la saturation des choix.
Nous choisissons quoi manger parmi des centaines d’options, quoi répondre à des messages qui n’exigeaient pas de réponse, quel contenu visionner parmi des milliers de propositions qui se chevauchent, quel produit acheter parmi des variations infinies et minimales du même, quelle série commencer alors que nous savons que nous ne l’achèverons pas. Chaque décision est minuscule, insignifiante en soi, mais constante. Il n’y a pas de répit. La journée devient une séquence ininterrompue de micro-choix qui ne construisent pas de sens, ils ne font que consommer de l’attention.
Cette saturation engendre un effet paradoxal. Plus on nous demande de choisir, moins nous sommes capables de trancher ce qui compte réellement. Le jugement s’épuise dans le bruit. Choisir devient une tâche administrative, non un acte signifiant. Et face à cet épuisement réapparaît, une fois de plus, le désir de déléguer. Que quelqu’un — ou quelque chose — choisisse à ma place. Non par paresse, mais par épuisement.
C’est là que la délégation du jugement cesse d’être exceptionnelle pour devenir structurelle. Ce n’est pas seulement l’arbitrage entre options qu’on délègue, mais le jugement de valeur qui détermine ce qui mérite d’être choisi. Que lire, que regarder, que manger, que penser. Le critère s’externalise. Et plus il s’externalise, moins il se forme. Le jugement, tout comme un muscle, s’atrophie par le désusage.
Cependant, une limite infranchissable demeure. Il y a quelque chose qui ne peut être délégué sans que le sujet ne se dissolve : la subjectivité ne se délègue pas. On ne peut déléguer la décision de ce qui compte vraiment. Il est possible de déléguer le choix entre marques, entre options équivalentes, entre bruits. Mais on ne peut déléguer le sens. On ne peut déléguer la question de la valeur, du bien, de la vie qui mérite d’être vécue.
Le problème contemporain n’est pas un excès de décisions, mais leur vidage de substance. Nous passons la journée à choisir parmi des options secondaires alors que nous laissons sans jugement ce qui compte vraiment. L’automatisation ne supprime pas la décision : elle la déplace. Elle prend en charge ce qui est trivial et répétitif, nous libère du poids des petits choix tout en vidant de sens les plus grands.
C’est pourquoi la fantaisie de ne pas décider est si dangereuse. Parce qu’elle ne peut jamais s’accomplir pleinement. Il y aura toujours des décisions que personne ne pourra prendre à notre place. La question n’est pas de savoir si nous décidons, mais quel type de décisions nous sommes prêts à assumer. Déléguer le jugement peut soulager momentanément la fatigue, mais à un prix : la perte progressive de notre propre critère.
C’est peut-être pourquoi la bonne question n’est pas de savoir si les algorithmes décident trop, mais pourquoi nous souhaitons avec une telle intensité qu’ils décident. Qu’avons-nous fait de notre capacité de jugement pour la ressentir comme un fardeau insupportable. Quel monde avons-nous construit pour que le renoncement à décider soit perçu comme un soulagement. Notre rêve n’est pas celui de machines qui nous dominent, mais de systèmes qui nous délivrent du poids de notre propre responsabilité.
Nous déléguons d’abord ce qui nous intéresse et ce qui est important. Le fil d’actualité ne se contente pas d’ordonner l’information ; il hiérarchise le monde. Il décide de ce qui mérite l’attention, de ce qui apparaît en premier, de ce qui disparaît, de ce qui se répète jusqu’à sembler crucial et de ce qui sombre dans l’insignifiance. Le sujet ne construit plus une image du présent à partir d’une recherche active, mais reçoit une version du monde présélectionnée, ajustée continuellement à son historique personnel. Il en résulte un effet non seulement informatif mais ontologique : le monde qui apparaît devient le monde que le sujet considère comme existant.
Nous déléguons aussi notre désir. La publicité personnalisée ne se contente plus de suggérer des produits, elle commence à façonner le désir. Elle ne répond pas seulement à une demande préexistante, elle l’anticipe, la façonne, la module. Le désir n’est plus une tension ouverte, mais devient une probabilité prévisible. Nous voulons ce que le système a appris que nous désirons habituellement. Et plus la prédiction s’affine, moins il reste d’espace pour que le désir soit une découverte.
Nous déléguons notre communication. Les réseaux sociaux ne sont pas de simples canaux neutres, ce sont des architectures qui conditionnent la forme, le rythme et le ton de l’expression. Ce qui peut être dit, comment cela se dit, sa durée, à qui cela s’adresse, ce qui est amplifié et ce qui sombre dans le silence. Nous ne parlons pas simplement à travers les plateformes ; nous parlons comme les plateformes le permettent. La communication cesse d’être un acte libre pour devenir une interaction formatée.
Nous déléguons notre présentation. L’identité numérique est optimisée pour être visible, réactive, évaluée. Ce qui ne rentre pas dans ce format tend à disparaître. La subjectivité s’adapte à des métriques externes : likes, vues, portée. Le moi cesse d’être une narration intérieure pour devenir un profil qui doit fonctionner.
Nous déléguons ce qui mérite notre temps. Quoi regarder, quoi écouter, quoi lire, quoi éviter. La saturation des options rend impossible toute exploration authentique, et la recommandation surgit comme solution. Mais cette solution a un prix : le critère s’externalise. Nous n’élisons plus ; nous acceptons des suggestions, des scores, des classements. Et plus nous leur faisons confiance, moins nous développons notre capacité à choisir nous-mêmes.
La conséquence de ce déplacement ne se manifeste pas immédiatement comme une catastrophe, mais comme un climat. Non comme une imposition extérieure, mais comme un sentiment intériorisé. À mesure que nous déléguons notre jugement — sur ce qui importe, ce que nous désirons, ce qui mérite attention — s’installe peu à peu une intuition difficile à exprimer, mais persistante : celle de ne pas être indispensables. Non au sens moral ou existentiel, mais fonctionnel. L’impression que le système peut continuer de tourner sans nous, ou avec d’autres équivalents.
Il ne s’agit pas d’exclusion, mais de remplaçabilité. Nous continuons de participer, consommer, voter, travailler, communiquer, mais de plus en plus dans des cadres qui ne dépendent plus de notre jugement. La valeur ne réside plus dans la décision, mais dans la capacité à s’intégrer.
Ce sentiment traverse divers champs de l’expérience. En politique, il se vit comme une fermeture : on choisit, mais on ne décide pas ; les alternatives semblent toujours conduire au même résultat. Au travail, comme une précarité intériorisée : nul besoin de menace explicite pour accepter moins ; il suffit de pressentir sa propre substituabilité. Dans la consommation, comme une prévisibilité : le désir ne surprend plus, il est anticipé. Dans les relations, comme une précarité permanente : il y a toujours des options de remplacement à portée d’un abonnement mensuel sur les plateformes de rencontres algorithmiques. Dans la culture, comme une répétition sans scandale : nous prouvons que nous pouvons consommer indéfiniment des variations du même.
Et pourtant, il y a quelque chose que nous évitons de faire. Nous ne voulons pas assumer le coût de décider par nous-mêmes. Non de choisir sur un menu, mais d’exercer un jugement. Non pas parce que nous ne savons pas le faire, mais parce que nous avons appris à vivre sans le faire. Par cette renonciation quotidienne, presque imperceptible, le système trouve la condition parfaite pour ne plus avoir besoin de nous.
Vue ainsi, l’intelligence artificielle ne s’impose pas comme un événement radical, mais comme l’aboutissement d’une dérive longue, patiente, presque invisible. Elle ne vient rien initier ; elle vient clore un processus. Décennie après décennie, nous avons délégué notre jugement, externalisé le critère, accepté que d’autres ordonnent pour nous ce qui est pertinent, souhaitable, visible, urgent. L’IA apparaît lorsque ce déplacement est déjà accompli, quand le vide d’orientation est si profond que tout système capable de le réduire devient immédiatement désirable.
Nous nous rassurons avec une vision apocalyptique de Terminator car elle nous est identifiable, spectaculaire et surtout, écartable. Skynet est un fantasme confortable : une explosion, une guerre, un ennemi clair. Devenu un mème, la supposée fin du monde en devient ridicule et risible.
C’est pourquoi nous persistons à imaginer un futur de robots tueurs. Il est plus confortable de penser à un apocalypse improbable que de regarder un présent beaucoup plus proche. L’imaginaire de Terminator nous rassure précisément parce qu’il est excessif, spectaculaire, ouvertement fictif.
Il est bien plus dérangeant d’admettre que nous ne nous dirigeons pas vers une rébellion des machines, mais vers quelque chose d’infiniment plus gris, plus quotidien, plus reconnaissable. Quelque chose de bien plus proche de WALL·E (Pixar, 2008). Pas un extermination, mais un remplacement progressif. Pas une guerre, mais une obsolescence douce. Pas la fin violente de l’humanité, mais sa perte progressive de pertinence fonctionnelle.
La dystopie de WALL·E gêne précisément parce qu’elle n’offre pas d’adversaire clair. Nul n’opprime autrui. Il n’y a ni champs de bataille ni décisions tragiques. Il y a confort, automatisation, satisfaction constante des besoins minimaux. Les humains ne sont pas réduits en esclavage : ils sont entretenus. Ils ne sont pas poursuivis : ils sont assistés. Et c’est dans cette assistance permanente que la perte se consomme. Non parce qu’on les élimine, mais parce qu’ils ne sont plus nécessaires.
D’où l’attrait de la dystopie violente. Elle nous permet de nous imaginer encore protagonistes, de nous accorder un dernier rôle héroïque, même tragique. En revanche, accepter que nous sommes plus proches du monde de WALL·E implique de reconnaître quelque chose de bien plus humiliant : que le monde pourrait parfaitement fonctionner sans notre jugement, nos décisions, notre participation.
Ce monde ne naît pas d’une conspiration malfaisante ni d’un dessein pervers. Il se construit par l’accumulation de petits renoncements. À chaque fois que nous déléguons une décision par paresse, chaque fois que nous acceptons une recommandation car c’est plus simple, chaque fois que nous laissons un autre système décider quoi regarder, que manger, que penser ou que désirer, nous pratiquons cette dystopie.
La tragédie n’est pas que les machines nous dominent, mais qu’elles n’aient plus besoin de nous. Et le plus inquiétant est que ce processus ne requiert ni violence, ni même conflit. Il suffit que nous soyons prévisibles, interchangeables, satisfaits du strict minimum. Il suffit que nous fonctionnions.
Entre mèmes et futilités, nous nous racontons l’histoire de l’apocalypse pour éviter de nous regarder dans le miroir de l’obsolescence. Nous préférons craindre un futur impossible que de reconnaître un présent qui dérange. Mais peut-être que le vrai scandale n’est pas une future révolte des machines, mais le fait que nous vivons déjà dans un monde qui, peu à peu, apprend à fonctionner sans jamais nous consulter.
Try Blue – It's the New Red!