Por que a IA não me responde como eu quero?

Em Stalker, a obra-prima de Andrei Tarkovsky, a Zona é um espaço misterioso onde, segundo dizem, existe um cômodo capaz de realizar os desejos mais profundos de quem a visita. Um dos viajantes, o Professor, deseja verificar a existência real do cômodo. O outro, o Escritor, duvida de seu propósito, receoso do que possa revelar. Mas é o Stalker, o guia, quem conhece a dimensão espiritual da viagem: não se trata simplesmente de um desejo consciente, mas do desejo mais verdadeiro, até mesmo aquele que nem sabemos que temos.

Um caso emblemático narrado no filme é o de Porcupine, um stalker que levou seu irmão morto à Zona com a esperança de devolvê-lo à vida. Ao sair, recebe uma fortuna inesperada: o cômodo concedeu seu desejo mais íntimo, não aquele que ele acreditava ter. Abrumado por essa verdade — seu desejo real era o dinheiro, não o irmão — ele se suicida. Não suportou a distância entre o que dizia querer e o que realmente desejava.

Esse abismo entre a pergunta formulada e o desejo oculto se repete hoje na relação entre humanos e inteligência artificial. Quem pergunta “como está a situação geopolítica mundial?” pode, no fundo, estar buscando estratégias para proteger ou multiplicar seu patrimônio. Quem pede uma explicação de Nietzsche talvez queira entender sua própria angústia existencial. A pergunta é racional, pública, aceitável. O desejo, por sua vez, é íntimo, confuso, às vezes inconfessável.

A IA, como o cômodo em Stalker, responde ao que lhe é perguntado. Mas nem sempre pode, nem deve, adivinhar o desejo profundo que motiva a pergunta. Existe, porém, uma tensão reveladora: a qualidade de nossas perguntas é determinada pela clareza — ou falta de clareza — sobre nossos verdadeiros fins. Como Porcupine, muitas vezes não sabemos o que realmente queremos, e isso contamina nossas buscas.

Em um mundo de assistentes inteligentes, a chave não está em perguntar melhor, mas em desejar melhor. Compreender o que nos move, o que ansiamos no mais profundo, pode redefinir não só como nos relacionamos com a tecnologia, mas também como nos relacionamos conosco mesmos. Caso contrário, poderíamos terminar como Porcupine: descobrindo tarde demais que o que pedimos não era o que queríamos, e que a resposta certa pode, na verdade, ser uma condenação.