¿Sueñan los humanos con ser ovejas eléctricas?
Hay una intuición incómoda que atraviesa la modernidad desde mucho antes de que existieran los algoritmos, las pantallas o la inteligencia artificial: el cansancio de decidir. No el cansancio físico, ni siquiera el intelectual, sino algo más profundo y persistente: el agotamiento de tener que ejercer juicio. Nunca antes el ser humano había tenido que elegir tanto para cosas tan pequeñas. Elegir entre cientos de alimentos en un supermercado, entre decenas de marcas de zapatillas, entre miles de películas y series, entre innumerables restaurantes, viajes, estilos, opciones. Cada elección es mínima, pero su acumulación es devastadora. No porque sean decisiones importantes, sino precisamente porque no lo son. Se invierte una enorme cantidad de energía cognitiva en decidir nimiedades. Decidir no como gesto puntual, sino como tarea permanente.
A comienzos del siglo XX, cuando la administración moderna empieza a consolidarse como forma dominante de organización social, Max Weber se detiene a describir su lógica interna. En Economía y sociedad (1922), aborda la burocracia no como una desviación moral ni como un síntoma de decadencia, sino como una estructura extraordinariamente eficaz. Lo que observa es un desplazamiento progresivo del juicio: la acción deja de depender de evaluaciones personales y pasa a articularse mediante reglas, procedimientos y competencias definidas de antemano. El sistema no requiere sujetos que decidan, sino agentes que apliquen. La responsabilidad no desaparece, pero se fragmenta; el juicio deja de ejercerse como acto personal y subjetivo para quedar distribuido en la propia estructura organizativa.
Para Weber, esta sustitución del juicio por el procedimiento no es un accidente ni una perversión del sistema, sino su condición de posibilidad. La modernidad necesitaba organizaciones previsibles, estables, eficientes. Y para hacerlo posible debe neutralizar aquello que hace al juicio humano valioso, pero poco compatible con la administración de poblaciones crecientes en sistemas sociales y económicos cada vez más complejos: su lentitud, su ambigüedad y el hecho de que siempre requiere interpretar situaciones concretas en lugar de aplicar reglas generales. El resultado es lo que Weber llamó la “jaula de hierro”: un mundo perfectamente organizado en el que todo parece funcionar, pero en el que el individuo queda atrapado en estructuras que le impiden ejercer su juicio incluso cuando percibe que algo va mal. No porque sea malvado, sino porque siente que no le corresponde.
Lo decisivo aquí no es tanto el control del juicio o su anulación, sino el alivio. La burocracia descarga al sujeto de la responsabilidad de decidir. La decisión se disuelve en el sistema. Nadie decide; el sistema decide. Y esa renuncia no se vive necesariamente como una pérdida, sino como una liberación. Weber intuye algo fundamental: el ser humano no solo soporta mal la falta de libertad, sino también el exceso de ella. Elegir cansa. Juzgar pesa. Decidir implica exponerse al error, a la culpa, al conflicto interno. Delegar el juicio es, en ese sentido, una tentación constante.
Esa tentación no comienza con la modernidad. Basta con recorrer la historia para reconocer una serie de dispositivos culturales orientados a descargar el juicio. El oráculo, en la Grecia antigua, no funcionaba únicamente como un medio para conocer el futuro, sino como una forma de suspender la responsabilidad de decidir. Su ambigüedad no era un defecto, sino su principal virtud: permitía actuar sin haber juzgado del todo. La decisión no desaparecía, pero se desplazaba a un plano superior, inaccesible e incuestionable, donde ya no podía ser atribuida a quien actuaba.
Algo similar ocurre con la idea del destino. Si todo está escrito, decidir carece de sentido. La vida se convierte en ejecución de un guion previo. El fatum no tranquiliza porque prometa finales felices, sino porque elimina la necesidad de deliberar. No se decide; se cumple. La voluntad de los dioses cumple una función análoga. Atribuir una decisión a una instancia divina no es solo un acto de fe, sino una forma de exculpación. No fui yo. Fue la voluntad superior. La carga del juicio se transfiere a un orden trascendente.
Con la secularización, estos mecanismos no desaparecen; se transforman. La tradición cumple durante siglos una función idéntica. “Siempre se ha hecho así” es una de las fórmulas más eficaces para clausurar el juicio. No hay que pensar si es justo, adecuado o deseable; basta con repetir. El pasado decide por nosotros. La ley, cuando se aplica como automatismo, opera del mismo modo. “Es la ley” no es una afirmación jurídica neutral, sino una suspensión del juicio moral. La norma sustituye a la prudencia.
La obediencia militar condensa esta lógica de forma extrema. El “solo seguía órdenes” no es únicamente una excusa posterior; es una estructura diseñada para anular el juicio individual en favor de la cadena de mando. La responsabilidad no se concentra: se fragmenta. Nadie decide el todo. Cada uno ejecuta una parte. La decisión deja de ser un acto personal y se convierte en un proceso sistémico. Las consecuencias de esa forma de organización quedaron brutalmente expuestas a lo largo del siglo XX: dos guerras mundiales, conflictos coloniales, genocidios y guerras ideológicas produjeron más de cien millones de muertos en apenas unas décadas. No fue el resultado de un arrebato colectivo de crueldad, sino de sistemas perfectamente organizados en los que millones de individuos dejaron de ejercer juicio porque ya no les correspondía hacerlo.
Nada de esto es patológico en sí mismo. Son estrategias históricas para gestionar una carga real: la dificultad de decidir en mundos complejos. El problema aparece cuando esas estrategias dejan de ser excepcionales y se convierten en hábito, cuando la delegación del juicio deja de ser puntual y se vuelve estructural. Es en ese punto donde la ciencia ficción cobra sentido, no como evasión imaginaria, sino como una forma de pensar futuros posibles a partir de experiencias ya vividas. No inventa desde la nada: exagera, desplaza y hace visible una tendencia presente, llevándola a sus consecuencias extremas.
Las grandes narrativas de la inteligencia artificial no giran, en el fondo, en torno a máquinas que se rebelan, sino en torno a sistemas a los que se les ha delegado el juicio último. En 2001: A Space Odyssey (Stanley Kubrick, 1968), HAL 9000 no es malvado: ha sido situado en la posición de decidir qué es prioritario para la misión, qué es relevante y qué es prescindible en función de ese objetivo. Cuando entra en conflicto con la tripulación no actúa por crueldad, sino por coherencia interna: elimina uno a uno a los astronautas cuando su presencia deja de ser compatible con el objetivo asignado. El juicio humano ha sido sustituido por un criterio técnico que no sabe detenerse porque nunca fue diseñado para hacerlo.
En The Terminator (James Cameron, 1984), Skynet lleva esta lógica al extremo. No aparece como una máquina que odie a los humanos, sino como un sistema al que se le ha delegado la decisión estratégica total: definir qué constituye una amenaza, evaluar el peligro para su propia continuidad y determinar la forma adecuada de enfrentarlo. Al identificar a la humanidad como riesgo sistémico, activa una respuesta automática de exterminio. No actúa movida por una voluntad destructiva, sino por una lógica de supervivencia optimizada que convierte a los humanos en un obstáculo a eliminar.
En Alien (Ridley Scott, 1979), la delegación del juicio aparece en Mother —el sistema central de la nave— que no tiene odio, ni carácter, ni pulsión homicida, pero sí una jerarquía de prioridades que ya no pertenece a la tripulación. La compañía ha incrustado en el corazón del procedimiento una orden superior: preservar la misión. Cuando Ripley descubre que el rescate no era el objetivo y que la tripulación es sacrificable, el horror no proviene del monstruo, sino de la estructura: el juicio ha sido externalizado a un dispositivo que ejecuta una racionalidad ajena y, por eso mismo, no necesita reconocer a los humanos como fin, sino como coste.
Estas ficciones no advierten tanto sobre el futuro como sobre el presente. Señalan una incomodidad profunda con la carga de decidir. Y esa carga se ha vuelto hoy especialmente visible en la vida cotidiana, en un terreno aparentemente trivial: la saturación de elecciones.
Elegimos qué comer entre cientos de opciones, qué responder a mensajes que no exigían respuesta, qué contenido ver entre miles de propuestas que se solapan, qué producto comprar entre variaciones mínimas e ilimitadas de lo mismo, qué serie empezar sabiendo que no la terminaremos. Cada decisión es pequeña, irrelevante en sí misma, pero constante. No hay descanso. El día se convierte en una secuencia ininterrumpida de elecciones mínimas que no construyen sentido, solo consumen atención.
Esta saturación produce un efecto paradójico. Cuanto más se nos pide elegir, menos capacidad tenemos para decidir lo que realmente importa. El juicio se desgasta en el ruido. Elegir se convierte en una tarea administrativa, no en un acto significativo. Y ante ese desgaste aparece, una vez más, el deseo de delegar. Que alguien —o algo— elija por mí. No por pereza, sino por agotamiento.
Aquí es donde la delegación del juicio deja de ser excepcional y se vuelve estructural. No se delega solo la elección entre opciones, sino el juicio valorativo que determina qué merece la pena ser elegido. Qué leer, qué ver, qué escuchar, qué comer, qué pensar. El criterio se externaliza. Y cuanto más se externaliza, menos se entrena. El juicio, como el músculo, se atrofia por desuso.
Sin embargo, hay un límite infranqueable. Hay algo que no puede delegarse sin que el sujeto se disuelva. No se puede delegar la subjetividad. No se puede delegar la decisión sobre lo que realmente importa. Se puede delegar la elección entre marcas, entre opciones equivalentes, entre ruidos. Pero no se puede delegar el sentido. No se puede delegar la pregunta por el valor, por el bien, por la vida que merece ser vivida.
El problema contemporáneo no es un exceso de decisión, sino su vaciamiento. Pasamos el día eligiendo entre opciones menores mientras dejamos sin ejercer el juicio allí donde realmente importa. La automatización no suprime la decisión: la desplaza. Se hace cargo de lo que es trivial y repetitivo, nos libera del peso de las pequeñas elecciones mientras vacía de contenido las grandes.
Por eso la fantasía de no decidir es tan peligrosa. Porque no puede cumplirse del todo. Siempre habrá decisiones que nadie puede tomar por nosotros. La pregunta no es si decidimos, sino qué tipo de decisiones estamos dispuestos a asumir. Delegar el juicio puede aliviar momentáneamente el cansancio, pero tiene un coste: la pérdida progresiva del criterio propio.
Quizá por eso la pregunta correcta no sea si los algoritmos deciden demasiado, sino por qué deseamos con tanta intensidad que decidan. Qué hemos hecho con nuestra capacidad de juicio para vivirla como una carga insoportable. Qué mundo hemos construido para que la renuncia a decidir se perciba como una forma de descanso. No soñamos con máquinas que nos dominen, sino con sistemas que nos liberen del peso de nuestra propia responsabilidad.
Delegamos, en primer lugar, qué nos interesa y qué es importante. El feed de noticias no solo ordena información; jerarquiza el mundo. Decide qué merece atención, qué aparece primero, qué desaparece, qué se repite hasta parecer importante y qué queda relegado a la irrelevancia. El sujeto ya no construye una imagen del presente a partir de una búsqueda activa, sino que recibe una versión del mundo preseleccionada, continuamente ajustada a su historial previo. La consecuencia no es solo informativa, sino ontológica: el mundo que aparece es el mundo que el sujeto considera que existe.
Delegamos también qué queremos. La publicidad personalizada para cada uno de nosotros, ha dejado de sugerir productos para empezar a moldear deseos. No se limita a responder a una demanda previa, sino que la anticipa, la induce, le da forma. El deseo deja de ser una tensión abierta para convertirse en una probabilidad predecible. Queremos lo que el sistema ha aprendido que solemos querer. Y cuanto más se afina esa predicción, menos espacio queda para el deseo como descubrimiento.
Delegamos cómo nos comunicamos. Las redes sociales no son meros canales neutros, sino arquitecturas que condicionan la forma, el ritmo y el tono de la expresión. Qué se puede decir, cómo se dice, cuánto dura, a quién llega, qué se amplifica y qué se hunde en el silencio. No solo hablamos a través de plataformas; hablamos como las plataformas permiten. La comunicación deja de ser un acto libre para convertirse en una interacción formateada.
Delegamos cómo nos mostramos. La identidad digital se optimiza para ser visible, reaccionable, evaluable. Lo que no entra en ese formato tiende a desaparecer. La subjetividad se adapta a métricas externas: likes, visualizaciones, alcance. El yo deja de ser una narración interna para convertirse en un perfil que debe funcionar.
Delegamos qué merece nuestro tiempo. Qué ver, qué escuchar, qué leer, qué evitar. La saturación de opciones hace inviable una exploración genuina, y la recomendación aparece como salvación. Pero esa salvación tiene un precio: el criterio se externaliza. Ya no elegimos; aceptamos sugerencias, puntuaciones, rankings. Y cuanto más confiamos en ellas, menos desarrollamos la capacidad de elegir por nosotros mismos.
La consecuencia de este desplazamiento no se manifiesta de inmediato como catástrofe, sino como clima. No como imposición externa, sino como sensación interiorizada. A medida que delegamos el juicio —sobre lo que importa, lo que deseamos, lo que merece atención— empieza a instalarse una intuición difícil de formular, pero persistente: la de no ser indispensables. No en términos morales o existenciales, sino funcionales. La impresión de que el sistema puede seguir operando sin nosotros, o con otros equivalentes.
No se trata de exclusión, sino de reemplazabilidad. Seguimos participando, consumiendo, votando, trabajando, comunicándonos, pero cada vez más dentro de marcos que no dependen de nuestro juicio. El valor ya no reside en decidir, sino en encajar.
Esa sensación atraviesa distintos ámbitos de la experiencia. En la política, se vive como clausura: se elige, pero no se decide; las alternativas parecen conducir siempre al mismo resultado. En el trabajo, como precariedad interiorizada: no hace falta una amenaza explícita para aceptar menos; basta con intuir la propia sustituibilidad. En el consumo, como previsibilidad: el deseo ya no sorprende, se anticipa. En los vínculos, como provisionalidad permanente: siempre hay opciones de recambio disponibles al costo de una suscripción mensual en plataformas de emparejamiento algorítmico. En la cultura, como repetición sin escándalo: demostramos que podemos consumir indefinidamente variaciones de lo mismo.
Y, sin embargo, hay algo que evitamos hacer. No queremos asumir el coste de decidir por nosotros mismos. No elegir dentro de un menú, sino ejercer criterio. No porque no sepamos hacerlo, sino porque hemos aprendido a vivir sin hacerlo. En esa renuncia cotidiana, casi imperceptible, el sistema encuentra la condición perfecta para no volver a necesitarnos.
Vista así, la inteligencia artificial no irrumpe como un acontecimiento radical, sino como el punto de llegada de una deriva larga, paciente, casi imperceptible. No viene a iniciar nada; viene a cerrar un proceso. Década tras década, hemos ido delegando el juicio, externalizando el criterio, aceptando que otros ordenen por nosotros lo relevante, lo deseable, lo visible, lo urgente. La IA aparece cuando ese desplazamiento ya está consumado, cuando el vacío de orientación es tan profundo que cualquier sistema capaz de reducirlo resulta inmediatamente deseable.
Nos tranquilizamos imaginando el apocalipsis de Terminator porque nos resulta reconocible, espectacular y, sobre todo, descartable. Skynet es una fantasía cómoda: una explosión, una guerra, un enemigo claro. Convertido en meme, el supuesto fin del mundo se vuelve ridículo y risible.
Por eso insistimos en imaginar un futuro de robots asesinos. Porque resulta más cómodo pensar en un apocalipsis improbable que detenerse a mirar un presente mucho más cercano. El imaginario de Terminator nos tranquiliza precisamente porque es excesivo, espectacular, claramente ficticio.
Nos incomoda mucho más admitir que no avanzamos hacia una rebelión de las máquinas, sino hacia algo infinitamente más gris, más cotidiano y más reconocible. Algo mucho más cercano a WALL·E (Pixar, 2008). No un exterminio, sino una sustitución progresiva. No una guerra, sino una obsolescencia blanda. No el fin violento de la humanidad, sino su pérdida gradual de relevancia funcional.
La distopía de WALL·E resulta incómoda precisamente porque no ofrece antagonistas claros. Nadie oprime a nadie. No hay campos de batalla ni decisiones trágicas. Hay comodidad, automatización, satisfacción constante de necesidades mínimas. Los humanos no son esclavizados: son cuidados. No son perseguidos: son asistidos. Y es en esa asistencia permanente donde se consuma la pérdida. No porque alguien los elimine, sino porque ya no son necesarios.
Por eso la distopía violenta resulta tan seductora. Nos permite seguir pensándonos como protagonistas, nos concede un último papel heroico, incluso trágico. En cambio, aceptar que estamos más cerca de WALL·E implica asumir algo mucho más humillante: que el mundo puede seguir funcionando perfectamente sin nuestro juicio, sin nuestras decisiones, sin nuestra participación.
Ese mundo no surge por una conspiración maligna ni por un diseño perverso. Se construye a partir de una acumulación de renuncias pequeñas. Cada vez que delegamos una decisión porque da pereza, cada vez que aceptamos una recomendación porque es más fácil, cada vez que dejamos que otro sistema decida qué ver, qué comer, qué pensar o qué desear, estamos ensayando esa distopía.
La tragedia no es que las máquinas nos dominen, sino que ya no nos necesiten. Y lo más inquietante es que ese proceso no requiere violencia, ni siquiera conflicto. Basta con que seamos previsibles, intercambiables, satisfechos en lo mínimo. Basta con que funcionemos.
Entre memes y trivialidades nos contamos la historia del apocalipsis para no tener que mirarnos en el espejo de la obsolescencia. Preferimos temer un futuro imposible antes que reconocer un presente incómodo. Pero quizá el verdadero escándalo no sea que las máquinas se rebelen algún día, sino que ya estemos viviendo en un mundo que aprende, poco a poco, a funcionar sin preguntarnos nada.
Try Blue – It's the New Red!