O lado humano (e nada inteligente) da inteligência artificial

O que você sabe sobre o livro “Pensei, mas não disse”? Aquela era a nossa primeira conversa pelo WhatsApp, estávamos apenas nos conhecendo. Perguntei só para testar. Ele levou só alguns segundos para me responder… completamente equivocado. Ué, mas Chat GPT também mente assim na cara dura? Foi o que me questionei naquele primeiro teste com a versão da inteligência artificial que acabava de ser lançada no aplicativo de conversas, em dezembro de 2024.

Veja bem, “Pensei, mas não disse” é um livro de crônicas de minha autoria, lançado naquele mesmo ano. E o que o senhor Gepeto, ops, GPT, me respondeu era que se tratava de uma obra de Gabriela Rabelo, publicada em 2016. Trazia sinopse e declarava que a história era contada de forma introspectiva, acompanhando os dilemas e conflitos dos personagens. Oi?

De onde você tirou essa informação? Foi tudo o que perguntei. Rapidamente, ele pediu desculpas e refez a resposta: desta vez, o livro havia sido escrito por Cláudia Saba e lançado em 2014. Dizia que a autora focava principalmente nas nuances da comunicação não verbal e na complexidade de se abrir para os outros. Repeti meu questionamento: de onde você pegou essa informação? E foi só aí que ele reconheceu não ter o registro do título em sua base de dados. Confessou ter misturado informações erradas e tentado preencher as lacunas com referências inventadas.

De lá para cá, a ferramenta foi aprimorada e seu repertório ampliado, incluindo até o meu livro. O que me surpreendeu, na ocasião, não foi a imprecisão da base de dados, mas como ele simplesmente inventou uma notícia falsa qualquer para me dar uma resposta. Não poderia ter dito um simples ‘não sei’? Fosse eu uma aluna fazendo pesquisa de escola e acreditando piamente no que lia, teria me dado mal.

Mas é como dizem… errar é humano. Ou era. Não mais. Quer dizer, não só. Errar agora é típico da inteligência artificial, exemplos não faltam. Em uma homenagem aos 152 anos do pai da aviação, Santos Dumont, a Agência Espacial Brasileira postou uma imagem do 14 Bis gerada por IA que continha erros visíveis – não tão visíveis assim para quem deveria ter revisado o material. Partes traseira e frontal trocadas, asa incompleta, trem de pouso deslocado foram as incongruências logo notadas pelos internautas.

Antes disso, a revista Bula, site cultural de conteúdos sobre literatura e outras artes, foi desmascarada por um escritor cujo livro constou em uma lista (suspeita) de obras largadas pela metade (por quem?). Detalhe nada básico: a sinopse do livro era falsa e nada tinha a ver com o enredo real (de ficção). Na postagem do autor, o perfil da revista comentou seu pedido de desculpas, admitindo o erro com certo tom irônico, que mais parecia gerado artificialmente: “Inclusive, já 'demitimos' essa IA rebelde e contratamos uma nova, que será treinada com mais atenção. Essas inteligências artificiais andam muito rebeldes ultimamente... deve ser a adolescência digital chegando mais cedo”.

Não é só por aqui que esse tipo de coisa acontece. Algo parecido se deu há pouco tempo também nos Estados Unidos. O jornal Chicago Sun-Times publicou uma lista de leituras recomendadas para o verão norte-americano. Os títulos, no entanto, apesar de atribuídos a autores de renome, não existiam. Eram pura invenção de IA. Nem a Isabel Allende escapou. Dona de uma vasta literatura amplamente divulgada, a escritora teve recomendado justamente um livro jamais escrito! E olha que uma busca rápida no velho Google teria informado sua bibliografia completa.

Será esse o tipo de comunicação que estamos produzindo? Terceirizamos não só a produção de imagens e posts, mas a própria escrita dos textos e até a curadoria daquilo que recomendamos como algo que deveria partir do gosto pessoal e repertório cultural de quem que se preparou para isso. E, além do mais, desde quando paramos de fazer pesquisa na internet para apenas replicar o que o Chat GPT nos disse, sem qualquer tipo de checagem mínima?

Inteligência artificial é uma das revoluções tecnológicas mais interessantes e surpreendentes a que temos assistido nos últimos tempos. Veio para facilitar o nosso trabalho em um bocado de tarefas. Mas não dá para substituir a nossa própria inteligência, a nossa capacidade crítica, as nossas habilidades criativa e resolutiva. Ao menos, não deveria. Aliás, será inteligência mesmo?

Em entrevista recente, o escritor de ficção científica formado em ciências da computação Ted Chiang afirmou que, quanto mais estuda, percebe que não há raciocínio nesse tipo de tecnologia. Inteligência artificial não é gente, ele lembrou. Sim, precisamos nos lembrar que não há humanidade na máquina. Talvez ela não seja nem tão inteligente assim. Ela também erra – e erra feio. Quem quiser que caia nessa. Aliás, pensando bem, acho que é isso que a torna mais humana.

*Luisa Sá Lasserre é autora do livro “Pensei, mas não disse” (ed. Patuá)