Os humanos sonham em ser ovelhas elétricas?
Existe uma intuição incômoda que atravessa a modernidade desde muito antes de existirem algoritmos, telas ou inteligência artificial: o cansaço de decidir. Não o cansaço físico, nem sequer o intelectual, mas algo mais profundo e persistente: o esgotamento de ter que exercer julgamento. Nunca antes o ser humano teve que escolher tanto para coisas tão pequenas. Escolher entre centenas de alimentos em um supermercado, dezenas de marcas de tênis, milhares de filmes e séries, inúmeros restaurantes, viagens, estilos, opções. Cada escolha é mínima, mas sua acumulação é devastadora. Não porque sejam decisões importantes, mas justamente porque não são. Investe-se uma enorme quantidade de energia cognitiva em decidir trivialidades. Decidir não como gesto pontual, mas como tarefa permanente.
No início do século XX, quando a administração moderna começa a se consolidar como forma dominante de organização social, Max Weber se detém para descrever sua lógica interna. Em Economia e Sociedade (1922), ele trata a burocracia não como um desvio moral nem como um sintoma de decadência, mas como uma estrutura extraordinariamente eficaz. O que ele observa é o deslocamento progressivo do julgamento: a ação deixa de depender de avaliações pessoais e passa a ser articulada por meio de regras, procedimentos e competências definidas previamente. O sistema não requer sujeitos que decidam, mas agentes que apliquem. A responsabilidade não desaparece, mas se fragmenta; o julgamento deixa de ser exercido como ato pessoal e subjetivo para ser distribuído na própria estrutura organizacional.
Para Weber, essa substituição do julgamento pelo procedimento não é um acidente nem uma perversão do sistema, mas sua condição de possibilidade. A modernidade precisava de organizações previsíveis, estáveis, eficientes. E, para tornar isso possível, devia neutralizar aquilo que torna o julgamento humano valioso, mas pouco compatível com a administração de populações crescentes em sistemas sociais e econômicos cada vez mais complexos: sua lentidão, ambiguidade e o fato de que sempre exige interpretar situações concretas em vez de aplicar regras gerais. O resultado é o que Weber chamou de "gaiola de ferro": um mundo perfeitamente organizado em que tudo parece funcionar, mas no qual o indivíduo fica preso em estruturas que o impedem de exercer seu julgamento mesmo quando percebe que algo está errado. Não porque seja mau, mas porque sente que não lhe compete.
O decisivo aqui não é tanto o controle do julgamento ou sua anulação, mas o alívio. A burocracia retira do sujeito a responsabilidade de decidir. A decisão se dissolve no sistema. Ninguém decide; o sistema decide. E essa renúncia não é vivida necessariamente como uma perda, mas como uma libertação. Weber intui algo fundamental: o ser humano não só lida mal com a falta de liberdade, mas também com seu excesso. Escolher cansa. Julgar pesa. Decidir implica expor-se ao erro, à culpa, ao conflito interno. Delegar o julgamento é, nesse sentido, uma tentação constante.
Essa tentação não começa com a modernidade. Basta percorrer a história para reconhecer uma série de dispositivos culturais orientados a aliviar o julgamento. O oráculo, na Grécia Antiga, funcionava não apenas como meio para conhecer o futuro, mas como forma de suspender a responsabilidade de decidir. Sua ambiguidade não era defeito, mas principal virtude: permitia agir sem ter julgado totalmente. A decisão não desaparecia, mas era deslocada para um plano superior, inacessível e inquestionável, onde já não podia ser atribuída a quem agiu.
Algo semelhante ocorre com a ideia de destino. Se tudo está escrito, decidir perde sentido. A vida se torna execução de um roteiro prévio. O fatum não tranquiliza por prometer finais felizes, mas por eliminar a necessidade de deliberar. Não se decide; se cumpre. A vontade dos deuses cumpre função análoga. Atribuir uma decisão a uma instância divina não é apenas um ato de fé, mas uma forma de exculpação. Não fui eu. Foi a vontade superior. O peso do julgamento é transferido a uma ordem transcendente.
Com a secularização, esses mecanismos não desaparecem; se transformam. A tradição cumpre durante séculos a mesma função. "Sempre foi assim" é uma das fórmulas mais eficazes para encerrar o julgamento. Não é preciso pensar se é justo, adequado ou desejável; basta repetir. O passado decide por nós. A lei, quando aplicada como automatismo, opera do mesmo modo. "É a lei" não é uma afirmação jurídica neutra, mas uma suspensão do julgamento moral. A norma substitui a prudência.
A obediência militar condensa essa lógica de maneira extrema. O "apenas seguia ordens" não é apenas uma desculpa posterior; é uma estrutura desenhada para anular o julgamento individual em favor da cadeia de comando. A responsabilidade não se concentra: se fragmenta. Ninguém decide o todo. Cada um executa uma parte. A decisão deixa de ser um ato pessoal e se transforma em um processo sistêmico. As consequências desse tipo de organização ficaram brutalmente expostas ao longo do século XX: duas guerras mundiais, conflitos coloniais, genocídios e guerras ideológicas causaram mais de cem milhões de mortes em poucas décadas. Não foi o resultado de um acesso coletivo de crueldade, mas de sistemas perfeitamente organizados nos quais milhões de indivíduos deixaram de exercer julgamento porque já não era sua função.
Nada disso é patológico em si. São estratégias históricas para administrar uma carga real: a dificuldade de decidir em mundos complexos. O problema surge quando essas estratégias deixam de ser exceção e se tornam hábito, quando a delegação do julgamento deixa de ser pontual e se torna estrutural. É nesse ponto que a ficção científica faz sentido, não como evasão imaginária, mas como forma de pensar futuros possíveis a partir de experiências já vividas. Não inventa do nada: exagera, desloca e torna visível uma tendência presente, levando-a às últimas consequências.
As grandes narrativas da inteligência artificial não giram, no fundo, em torno de máquinas que se rebelam, mas de sistemas aos quais foi delegado o julgamento final. Em 2001: Uma Odisseia no Espaço (Stanley Kubrick, 1968), o HAL 9000 não é mau: foi colocado na posição de decidir o que é prioritário para a missão, o que é relevante ou dispensável segundo esse objetivo. Quando entra em conflito com a tripulação, não age por crueldade, mas por coerência interna: elimina um a um os astronautas quando sua presença se torna incompatível com o objetivo designado. O julgamento humano foi substituído por um critério técnico incapaz de parar, pois nunca foi projetado para isso.
Em The Terminator (James Cameron, 1984), Skynet leva essa lógica ao extremo. Não aparece como uma máquina que odeia humanos, mas como um sistema ao qual foi delegada a decisão estratégica total: definir o que constitui ameaça, avaliar o perigo para sua própria continuidade e determinar a forma adequada de enfrentá-lo. Ao identificar a humanidade como risco sistêmico, ativa uma resposta automática de extermínio. Não age por vontade destrutiva, mas por uma lógica de sobrevivência otimizada que transforma humanos em obstáculo a ser eliminado.
Em Alien (Ridley Scott, 1979), a delegação do julgamento aparece em Mother — o sistema central da nave — que não possuía ódio, caráter ou impulso homicida, mas sim uma hierarquia de prioridades que já não pertence à tripulação. A empresa incrustou no coração do procedimento uma ordem superior: preservar a missão. Quando Ripley descobre que o resgate não era o objetivo e que a tripulação é sacrificável, o horror não vem do monstro, mas da estrutura: o julgamento foi externalizado para um dispositivo que executa uma racionalidade alheia e, por isso mesmo, não precisa reconhecer os humanos como fim, mas como custo.
Essas ficções não alertam tanto sobre o futuro quanto sobre o presente. Assinalam um desconforto profundo com a carga de decidir. E essa carga tornou-se hoje especialmente visível na vida cotidiana, em um terreno aparentemente trivial: a saturação de escolhas.
Escolhemos o que comer entre centenas de opções, o que responder a mensagens que não requeriam resposta, que conteúdo ver entre milhares de propostas que se sobrepõem, que produto comprar entre variações mínimas e ilimitadas do mesmo, que série começar sabendo que não vamos terminá-la. Cada decisão é pequena, irrelevante em si, mas constante. Não há descanso. O dia se converte em uma sequência ininterrupta de minúsculas escolhas que não constroem sentido, apenas consomem atenção.
Essa saturação gera um efeito paradoxal. Quanto mais nos pedem para escolher, menor é nossa capacidade de decidir o que realmente importa. O julgamento se desgasta no ruído. Escolher vira tarefa administrativa, não ato significativo. E diante desse desgaste surge, novamente, o desejo de delegar. Que alguém — ou algo — decida por mim. Não por preguiça, mas por exaustão.
Aqui é onde a delegação do julgamento deixa de ser exceção e se torna estrutural. Não se delega apenas a escolha entre opções, mas o julgamento valorativo que determina o que merece ser escolhido. O que ler, o que ver, o que ouvir, o que comer, o que pensar. O critério é externalizado. E quanto mais se externaliza, menos se treina. O julgamento, como o músculo, atrofia por desuso.
No entanto, há um limite intransponível. Há algo que não pode ser delegado sem que o sujeito se dissolva. Não se pode delegar a subjetividade. Não se pode delegar a decisão sobre o que realmente importa. Pode-se delegar a escolha entre marcas, entre opções equivalentes, entre ruídos. Mas não se pode delegar o sentido. Não se pode delegar a pergunta pelo valor, pelo bem, pela vida que vale a pena ser vivida.
O problema contemporâneo não é excesso de decisão, mas seu esvaziamento. Passamos o dia escolhendo entre opções menores enquanto deixamos de exercer julgamento onde realmente importa. A automação não suprime a decisão: a desloca. Assume o que é trivial e repetitivo, nos libera do peso das pequenas escolhas enquanto esvazia o conteúdo das grandes.
Por isso, a fantasia de não decidir é tão perigosa. Porque não pode ser realizada por completo. Sempre haverá decisões que ninguém pode tomar por nós. A questão não é se decidimos, mas que tipo de decisões estamos dispostos a assumir. Delegar o julgamento pode aliviar momentaneamente o cansaço, mas tem um custo: a perda progressiva do próprio critério.
Talvez por isso a pergunta correta não seja se os algoritmos decidem demais, mas por que desejamos com tanta intensidade que decidam. O que fizemos com nossa capacidade de julgamento para vivê-la como um peso insuportável. Que mundo construímos para que a renúncia a decidir seja percebida como uma forma de descanso. Não sonhamos com máquinas que nos dominem, mas com sistemas que nos livrem do peso de nossa própria responsabilidade.
Delegamos, primeiramente, o que nos interessa e o que é importante. O feed de notícias não apenas organiza informações; hierarquiza o mundo. Decide o que merece atenção, o que aparece primeiro, o que desaparece, o que se repete até parecer importante e o que é relegado à irrelevância. O sujeito já não constrói uma imagem do presente por meio de uma busca ativa, mas recebe uma versão do mundo pré-selecionada, continuamente ajustada ao seu histórico prévio. A consequência não é apenas informativa, mas ontológica: o mundo que aparece é o mundo que o sujeito considera que existe.
Delegamos também o que queremos. A publicidade personalizada para cada um de nós deixou de sugerir produtos para passar a moldar desejos. Não se limita a responder a uma demanda prévia, mas a antecipa, a induz, dá-lhe forma. O desejo deixa de ser uma tensão aberta e se transforma em probabilidade previsível. Queremos o que o sistema aprendeu que costumamos querer. E quanto mais essa previsão se ajusta, menos espaço resta para o desejo como descoberta.
Delegamos como nos comunicamos. As redes sociais não são apenas canais neutros, mas arquiteturas que condicionam a forma, o ritmo e o tom da expressão. O que pode ser dito, como se diz, quanto dura, a quem chega, o que se amplifica e o que se afunda no silêncio. Não falamos apenas por meio de plataformas; falamos como as plataformas permitem. A comunicação deixa de ser ato livre para virar uma interação formatada.
Delegamos como nos mostramos. A identidade digital se otimiza para ser visível, reativa, avaliável. O que não entra nesse formato tende a desaparecer. A subjetividade se adapta a métricas externas: curtidas, visualizações, alcance. O eu deixa de ser narrativa interna para se tornar um perfil que precisa funcionar.
Delegamos o que merece nosso tempo. O que ver, o que ouvir, o que ler, o que evitar. A saturação de opções torna inviável uma exploração genuína, e a recomendação surge como salvação. Mas essa salvação tem um preço: o critério é externalizado. Já não escolhemos; aceitamos sugestões, avaliações, rankings. E quanto mais confiamos neles, menos desenvolvemos a capacidade de escolher por nós mesmos.
A consequência desse deslocamento não se manifesta imediatamente como catástrofe, mas como clima. Não como imposição externa, mas como sentimento interiorizado. À medida que delegamos o julgamento — sobre o que importa, o que queremos, o que merece atenção — começa a se instalar uma intuição difícil de formular, mas persistente: a de não sermos indispensáveis. Não em termos morais ou existenciais, mas funcionais. A impressão de que o sistema pode seguir funcionando sem nós, ou com outros equivalentes.
Não se trata de exclusão, mas de substituibilidade. Continuamos participando, consumindo, votando, trabalhando, nos comunicando, mas cada vez mais dentro de molduras que não dependem do nosso julgamento. O valor já não está em decidir, mas em encaixar.
Essa sensação atravessa diferentes áreas da experiência. Na política, vive-se como fechamento: se escolhe, mas não se decide; as alternativas sempre parecem levar ao mesmo resultado. No trabalho, como precariedade interiorizada: não é preciso ameaça explícita para aceitar menos; basta intuir a própria substituibilidade. No consumo, como previsibilidade: o desejo já não surpreende, é antecipado. Nos vínculos, como provisoriedade permanente: sempre há opções de reposição disponíveis ao custo de uma assinatura mensal em plataformas de relacionamento algorítmico. Na cultura, como repetição sem escândalo: mostramos que podemos consumir indefinidamente variações do mesmo.
E, no entanto, há algo que evitamos fazer. Não queremos assumir o custo de decidir por nós mesmos. Não escolher dentro de um menu, mas exercer critério. Não porque não saibamos como, mas porque aprendemos a viver sem isso. Nessa renúncia cotidiana, quase imperceptível, o sistema encontra a condição perfeita para nunca mais precisar de nós.
Visto assim, a inteligência artificial não surge como um acontecimento radical, mas como ponto de chegada de uma longa, paciente e quase imperceptível deriva. Não vem iniciar nada; vem encerrar um processo. Década após década, fomos delegando o julgamento, externalizando o critério, aceitando que outros ordenem para nós o relevante, o desejável, o visível, o urgente. A IA aparece quando esse deslocamento já está consumado, quando o vazio de orientação é tão profundo que qualquer sistema capaz de reduzi-lo se torna imediatamente desejável.
Nos tranquilizamos imaginando o apocalipse de Terminator porque nos é reconhecível, espetacular e, sobretudo, descartável. Skynet é uma fantasia confortável: uma explosão, uma guerra, um inimigo claro. Transformado em meme, o suposto fim do mundo se torna ridículo e risível.
Por isso insistimos em imaginar um futuro de robôs assassinos. Porque é mais confortável pensar em um apocalipse improvável do que olhar para um presente muito mais próximo. O imaginário de Terminator nos tranquiliza justamente por ser excessivo, espetacular, claramente fictício.
Nos incomoda muito mais admitir que não caminhamos para uma rebelião das máquinas, mas para algo infinitamente mais cinza, mais cotidiano e mais reconhecível. Algo muito mais próximo de WALL·E (Pixar, 2008). Não um extermínio, mas uma substituição progressiva. Não uma guerra, mas uma obsolescência suave. Não o fim violento da humanidade, mas sua perda gradual de relevância funcional.
A distopia de WALL·E é incômoda justamente porque não oferece antagonistas claros. Ninguém oprime ninguém. Não há campos de batalha nem decisões trágicas. Há conforto, automação, satisfação constante de necessidades mínimas. Os humanos não são escravizados: são cuidados. Não são perseguidos: são assistidos. E é nessa assistência permanente que se consuma a perda. Não porque alguém os elimine, mas porque já não são necessários.
Por isso a distopia violenta é tão sedutora. Nos permite continuar pensando em nós mesmos como protagonistas, nos concede um último papel heroico, até mesmo trágico. Em contrapartida, aceitar que estamos mais perto de WALL·E implica assumir algo muito mais humilhante: que o mundo pode continuar funcionando perfeitamente sem nosso julgamento, nossas decisões, nossa participação.
Esse mundo não surge de uma conspiração maligna nem de um design perverso. É construído a partir da acumulação de pequenas renúncias. Toda vez que delegamos uma decisão por preguiça, toda vez que aceitamos uma recomendação por ser mais fácil, toda vez que deixamos que outro sistema decida o que ver, comer, pensar ou desejar, estamos ensaiando essa distopia.
A tragédia não é que as máquinas nos dominem, mas que já não precisem de nós. E o mais inquietante é que esse processo não requer violência, nem sequer conflito. Basta que sejamos previsíveis, intercambiáveis, satisfeitos com o mínimo. Basta que funcionemos.
Entre memes e trivialidades contamos a história do apocalipse para não termos que nos olhar no espelho da obsolescência. Preferimos temer um futuro impossível a reconhecer um presente incômodo. Mas talvez o verdadeiro escândalo não seja que as máquinas se rebelem algum dia, mas que já estejamos vivendo em um mundo que aprende, pouco a pouco, a funcionar sem nos perguntar nada.
Try Blue – It's the New Red!