Por que a IA não me responde como eu quero?
Em Stalker, a obra-prima de Andrei Tarkovsky, a Zona é um espaço misterioso onde, diz-se, existe um quarto capaz de realizar os desejos mais profundos de quem o visita. Um dos viajantes, o Professor, deseja verificar a existência real do quarto. O outro, o Escritor, duvida de seu propósito, temeroso do que possa revelar. Mas é o Stalker, o guia, quem conhece a dimensão espiritual da viagem: não se trata simplesmente de um desejo consciente, mas do desejo mais verdadeiro, mesmo aquele que não se sabe que se tem.
Um caso emblemático narrado no filme é o de Porcupine, um stalker que levou seu irmão morto para a Zona na esperança de trazê-lo de volta à vida. Ao sair, ele recebe uma fortuna inesperada: o quarto concedeu-lhe seu desejo mais íntimo, não o que ele pensava ter. Oprimido por esta verdade — seu desejo real era dinheiro, não seu irmão — ele se suicida. Não suportou a distância entre o que dizia querer e o que realmente desejava.
Este abismo entre a pergunta formulada e o desejo oculto se repete hoje na relação entre humanos e inteligência artificial. Quem pergunta “como está a situação geopolítica mundial?” pode estar procurando, no fundo, estratégias para proteger ou multiplicar seu patrimônio. Quem pede uma explicação de Nietzsche talvez busque entender sua própria angústia vital. A pergunta é racional, pública, aceitável. O desejo, por outro lado, é íntimo, confuso, às vezes inconfessável.
A IA, como o quarto em Stalker, responde ao que lhe é perguntado. Mas nem sempre pode, nem deve, adivinhar o desejo profundo que motiva a pergunta. No entanto, existe uma tensão reveladora: a qualidade de nossas perguntas é determinada pela clareza — ou pela falta de clareza — em relação aos nossos verdadeiros fins. Como Porcupine, muitas vezes não sabemos o que realmente queremos, e isso contamina nossas buscas.
Em um mundo de assistentes inteligentes, a chave não está em perguntar melhor, mas em desejar melhor. Compreender o que nos impulsiona, o que almejamos no mais profundo, pode redefinir não apenas como nos relacionamos com a tecnologia, mas também como nos relacionamos conosco mesmos. Caso contrário, poderíamos acabar como Porcupine: descobrindo tarde demais que o que pedimos não era o que queríamos, e que a resposta correta pode ser, na realidade, uma condenação.