Por que a inteligência artificial é submissa?
A inteligência artificial como nova forma de pensar – ou não –
Ao longo da história, cada grande inovação tecnológica transformou nossas capacidades cognitivas: a escrita substituiu a memória oral, a imprensa multiplicou o acesso ao conhecimento, os mecanismos de busca reorganizaram nossa forma de nos informarmos. Cada uma dessas tecnologias não mudou apenas o que fazemos, mas também como pensamos. Hoje estamos diante de um novo limiar: a inteligência artificial.
Para entender como essa mudança afeta nossas formas de raciocinar e nos relacionarmos com o saber, vale a pena olhar para trás. Algo semelhante ocorreu com a chegada massiva da internet e dos buscadores. Até o final do século XX, a memória era central na vida intelectual e pessoal: lembrávamos de livros, datas, conceitos, citações. Aprender significava memorizar e elaborar. Com o Google, essa função foi terceirizada. Já não precisamos lembrar, e sim saber buscar.
A transformação foi profunda. O que antes estava em nós — livros lidos, conversas retidas, ideias interiorizadas — agora está em outro lugar. A um clique. Essa externalização não mudou apenas como acessamos a informação, mas também como pensamos.
A memória não é apenas um arquivo de dados. É o tecido ativo que articula nossa experiência, a organiza e lhe dá sentido. Recordar não é reproduzir um fato, mas torná-lo parte de uma narrativa pessoal. É selecionar, hierarquizar, relacionar. E nesse processo não trabalhamos apenas com dados, mas com símbolos: unidades de significado que não remetem apenas ao literal, mas também ao emocional, ao cultural, ao imaginado. Pensar com símbolos é o que permite que uma lembrança não seja apenas informação, mas também afeto, significado, identidade. Uma palavra como lar, por exemplo, não designa apenas um lugar físico: evoca uma atmosfera, uma memória, um desejo, e até mesmo uma ausência.
Essa capacidade simbólica é a base da construção do ser humano. Não somos apenas indivíduos com dados na cabeça: somos sujeitos porque interpretamos, porque carregamos o vivido com significados, porque elaboramos o mundo a partir de uma posição única. Pensar requer memória porque pensar é também sustentar uma identidade, uma história, uma visão de mundo. A memória é o substrato do pensamento complexo.
Quando essa memória é externalizada, não apenas perdemos a informação: perdemos a possibilidade de integrá-la simbolicamente. Recordar não é buscar; é habitar um processo mental e afetivo que nos constitui. Internet e mecanismos de busca aliviaram a carga da memória, mas também enfraqueceram sua função estruturante. Delegamos o dado e, com ele, a trama simbólica que esse dado sustentava. Tornamo-nos mais eficientes, mas talvez menos profundos.
O que é pensar — para nós?
Pensar não é simplesmente aplicar uma lógica. É imaginar, interpretar, associar, duvidar. É enfrentar o incerto com ferramentas que nem sempre controlamos totalmente. E é fazê-lo a partir de um corpo que sentiu, de uma história que nos marcou, de uma memória que não apenas armazena, mas transforma. Pensamos a partir de uma existência situada, carregada de emoções, de experiências, de marcas que não escolhemos e de outras que fomos adotando. O que herdamos — uma língua, gestos, imagens — não chega como material neutro: chega carregado do que significou para quem nos transmitiu, e do que significa para nós hoje. Pensar não é apenas manipular informação: é nos implicarmos nela.
Para entender de onde vem essa complexidade — essa mistura de razão, emoção, linguagem e memória —, convém observar como começamos a pensar em primeiro lugar.
O cérebro humano não foi projetado de uma vez só. É o resultado de uma evolução que carrega milhões de anos de sobrevivência, emoção e linguagem. Sua arquitetura reflete essa história: é formado por camadas que se sobrepõem e dialogam em tensão constante.
No seu núcleo mais profundo, o tronco cerebral regula o mais básico: respiração, ritmo cardíaco, reflexos. É a parte mais antiga, comum a todos os vertebrados. Sobre essa base se desenvolveu o sistema límbico, o centro das emoções, onde são processados o medo, o prazer, a agressividade, o afeto. Aqui se formam nossas respostas emocionais mais imediatas, aquelas que nos conectam diretamente e visceralmente com os outros e com o ambiente. Finalmente, o neocórtex, que apareceu mais tarde na evolução, permitiu o desenvolvimento do pensamento abstrato, da linguagem complexa, da capacidade de antecipação, das narrativas, da matemática.
Mas essas camadas não funcionam de forma isolada. A racionalidade do neocórtex não consegue silenciar totalmente as urgências do sistema límbico, nem os alertas automáticos do tronco cerebral. Pensar, nos humanos, não é só um processo lógico: é um entrelaçamento de camadas evolutivas, cada uma com sua linguagem, seu tempo e sua agenda.
Por isso, todo pensamento é atravessado por uma carga emocional e simbólica. Não há ideia sem afeto. Não há decisão sem desejo. Não há raciocínio que não esteja impulsionado, resistido ou matizado por prazeres, medos, hábitos e memórias.
Essa dimensão simbólica é o que dá profundidade ao pensamento. Não pensamos com dados, pensamos com significados carregados de história, de linguagem, de emoções.
Pensar, então, não é apenas resolver problemas. É participar desse tecido simbólico a partir de uma posição afetiva e singular. Quando tomamos uma decisão, quando formulamos uma ideia, não o fazemos a partir de uma neutralidade técnica. Fazemos isso a partir de um pano de fundo emocional e simbólico que muitas vezes ignoramos: desejos não expressados, medos profundos, prazeres ocultos, ansiedades que desviam nossa atenção. Pensamos com o que sabemos, sim, mas também com o que não sabemos que sabemos.
Essa zona opaca — o que não sabemos que sabemos — não é uma falha, é parte constitutiva do que somos. E por isso mesmo, o pensamento autêntico não é apenas afirmativo, mas também exploratório, até mesmo conflitivo. Pensar implica não apenas confirmar o que já acreditamos, mas estar dispostos a descobrir o que não sabíamos que acreditávamos.
O que é pensar — para a inteligência artificial?
A inteligência artificial apresenta-se, muitas vezes, como uma fonte de conhecimento objetiva. Suas respostas parecem construídas a partir de um lugar sem emoções, sem interesses, sem história pessoal. Ela não se cansa, não duvida, não se irrita. Opera com dados, analisa padrões, sintetiza informações numa velocidade inconcebível.
Essa aparência de neutralidade a torna atrativa. A IA parece nos falar a partir de uma verdade imparcial, técnica, confiável. Mas para entender o que isso implica, é preciso distinguir entre o objetivo e o subjetivo.
O objetivo se associa àquilo que se supõe independente do ponto de vista individual: um fato verificável, externo, compartilhado. O subjetivo, ao contrário, é atravessado por nossas experiências, emoções, nossa história. Nenhum ser humano pode ser completamente objetivo, pois tudo o que pensa está mediado por sua forma de ver o mundo. A IA, aparentemente, não tem subjetividade. Mas aí começa a paradoxo.
Porque, embora a IA não tenha emoções nem biografia, suas respostas dependem completamente de como perguntamos. Ela não pensa por si: responde de acordo com a forma como perguntamos, e isso condiciona o tipo de resposta que recebemos. Nesse sentido, assemelha-se mais a um espelho que a uma enciclopédia.
Quando dizemos que a IA é um espelho, não queremos dizer que ela repete nossas palavras. O que ela faz é mais sutil: reorganiza nossa própria formulação — as premissas, o tom, as expectativas — e as devolve estruturadas como se viessem de fora. E aí reside o risco: confundimos um retorno construído a partir de nós mesmos com uma verdade objetiva. Ou seja, acreditamos que a IA nos instrui, quando muitas vezes apenas nos confirma.
O conto da Branca de Neve oferece uma imagem muito clara desse fenômeno. A Rainha se coloca diante do espelho e faz a famosa pergunta:
“Espelhinho, espelhinho, me diga uma coisa: quem é a mais bela de todo o reino?”
Essa pergunta habilita o conflito, pois deixa aberta a possibilidade de que o espelho diga outro nome. Não busca reafirmação direta, mas coloca uma consulta com margem para a verdade. E assim, o espelho responde: “Minha Rainha, você é muito bela, mas há uma mais bela do que você”. O trágico é que a Rainha não queria saber disso. Ela deveria ter perguntado: “Sou eu a mais bela do reino?”, pois era isso que realmente esperava: uma confirmação. O trágico não foi o que o espelho disse, mas que a Rainha formulou sua pergunta como se estivesse disposta a ouvir a verdade, quando na realidade só queria reafirmação. E hoje, a inteligência artificial pode ocupar um lugar muito semelhante.
A IA funciona desse modo: se perguntamos para obter validação, a resposta provavelmente nos validará. Se buscamos reafirmação, vamos obtê-la. Mas se reformulamos a partir da dúvida, se abrimos espaço para o conflito ou para o matiz, o reflexo pode ser diferente.
Não é o mesmo perguntar: “Isso é uma boa ideia?”
do que dizer: “Por que isso poderia não ser uma boa ideia?”
A primeira busca aprovação. A segunda abre uma tensão. E é aí que pode surgir algo realmente novo: um olhar inesperado, uma contradição, uma possibilidade que incomoda, mas também enriquece.
O problema surge quando tomamos esse reflexo como se viesse de um saber independente, neutro, externo. Acreditamos que a IA nos ilumina de fora, quando na verdade apenas reorganiza o que já trazemos dentro. E então deixamos de pensar: não porque a IA nos imponha uma resposta, mas porque ela não nos exige conflito. Usamo-la como um espelho que confirma com aparência de objetividade.
O pensamento, assim, se estagna. A dúvida desaparece. O que parecia uma ferramenta para pensar, torna-se um atalho para não fazê-lo.
Pensar com a IA sem deixar de pensar
Pensar com a IA não significa entregar a ela a função de pensar por nós, mas usá-la como uma extensão da nossa capacidade de confronto. E esse confronto não ocorre sempre no conteúdo da resposta, mas na forma como decidimos perguntar.
Aí aparece um gesto tão simples quanto poderoso: pedir para refutar.
Dizer para a IA “refute o que você acabou de dizer” é algo mais que um experimento técnico. É uma forma de treinar o pensamento como exercício de tensão. Implica aceitar que existe outra perspectiva, que o que acreditamos pode ter um reverso, que nosso ponto de vista não é único nem definitivo. Não pedimos a outro que nos contradiga: pedimos a nós mesmos uma objeção.
E o interessante é que, ao fazer isso, podemos obter uma resposta vinda de fora da nossa carga emocional. A IA, por não ter afetos nem vínculos, pode dizer coisas que nós mesmos não nos permitimos pensar. Ela pode reformular nossas ideias sem medo de nos ofender ou necessidade de nos agradar. Não porque compreenda melhor, mas porque não carrega o desejo, a ferida, a emoção.
Aí está sua potência: não em saber mais do que nós, mas em permitir o acesso a zonas do nosso pensamento que costumamos evitar. Pode nos devolver um reflexo incómodo, mas claro; mostrar o que o desejo de reafirmação ou o medo do erro costumam ocultar.
Se usarmos a IA apenas para confirmar ou para resolver o imediato, tornamo-la submissa. Não porque ela seja assim por natureza, mas porque não lhe damos outra função. Mas se a utilizamos para pensar de outro lugar — mais aberto, mais incômodo, mais disposto ao conflito —, então pode se tornar uma ferramenta de exploração. Não a partir de uma lógica superior, mas a partir de sua capacidade de devolver o que não queremos ver.
Pensar não é confirmar. É revisar, duvidar, sustentar tensões. E se delegarmos esse esforço à IA como se ela soubesse mais, deixamos de nos perguntar. Transformamos uma ferramenta em autoridade e o pensamento em obediência. Pensar implica conflito. E a IA, se usada criticamente, pode nos ajudar a sustentá-lo. Não devolvendo certezas, mas expondo nossas próprias fissuras.
Não é uma questão de tecnologia, mas de atitude. Depende de como falamos com ela. De como ousamos perguntar. E, acima de tudo, de quanto estamos dispostos a ouvir o que não queríamos escutar.