Homem tem alucinações após seguir conselho do ChatGPT

Um homem de 60 anos passou mal após seguir recomendações equivocadas do ChatGPT. O indivíduo foi hospitalizado com alucinações e problemas físicos graves por substituir sal comum por brometo de sódio em sua alimentação, ao seguir uma orientação da inteligência artificial.

O caso foi documentado no estudo publicado no periódico "Annals of Internal Medicine Clinical Cases" na última terça-feira, 5, e aconteceu nos Estados Unidos após o sujeito utilizar a substância tóxica por três meses seguidos.

Substituição do sal por brometo de sódio

O paciente, que chegou a estudar nutrição na faculdade, consultou a ferramenta de inteligência artificial da OpenAI na busca por alternativas ao cloreto de sódio após ler sobre possíveis efeitos negativos do sal comum à saúde.

Como sugestão, o ChatGPT indicou o brometo de sódio que o homem adquiriu pela internet e eliminou completamente o sal de cozinha de sua dieta. A substituição resultou em uma condição tóxica conhecida como bromismo, causada pela exposição excessiva ao brometo.

De acordo com os médicos, foi identificado que embora visualmente semelhante ao sal de cozinha, o brometo de sódio é um composto diferente, utilizado principalmente para finalidades industriais e de limpeza.

Suspeita de envenenamento

Segundo o New York Post, o homem foi levado ao hospital após começar a acreditar que seu vizinho tentou envenená-lo. Durante a internação, mostrava-se desconfiado quando lhe ofereciam água, apesar de queixar-se constantemente de sede intensa.

O quadro de saúde do homem começou a piorar nas primeiras 24 horas de hospitalização. O paciente, que não tinha histórico de problemas mentais, desenvolveu paranoia crescente e começou a relatar alucinações visuais e auditivas.

O indivíduo ainda tentou fugir, mas foi transferido para a unidade psiquiátrica, onde recebeu tratamento com fluidos, eletrólitos e antipsicóticos.

Após apresentar melhora, o paciente relatou outros sintomas compatíveis com toxicidade por brometo, entre eles: acne, angiomas cereja, fadiga, insônia, ataxia (grupo de doenças neurológicas que afetam a coordenação e o equilíbrio) e polidipsia (sede excessiva).

Estudo

"É importante considerar que o ChatGPT e outros sistemas de IA podem gerar imprecisões científicas, carecem da capacidade de discutir criticamente os resultados e, em última análise, alimentam a disseminação de desinformação", alertaram os autores do estudo.

"Embora seja uma ferramenta com muito potencial para fornecer uma ponte entre cientistas e a população não acadêmica, a IA também carrega o risco de promulgar informações descontextualizadas", acrescentaram ao constatar que "É altamente improvável que um especialista médico mencionasse brometo de sódio quando confrontado com um paciente em busca de um substituto viável para o cloreto de sódio".

Em nota, a OpenAI aponta em seus Termos de Uso que sua ferramenta "não é destinada ao uso no diagnóstico ou tratamento de qualquer condição de saúde".