Vazamento do Grok: 370 mil conversas com IA do X expostas online

Usuários do X, antigo Twitter que utilizam a inteligência artificial do aplicativo, o Grok, xAI, estão apreensivos nesta quarta-feira, 20, já que mais de 370 mil conversas com o chatbot foram vazadas no site do Grok e indexadas em mecanismos de pesquisa.

A publicação foi feita por meio de um botão de compartilhamento da IA, que cria um endereço exclusivo para cada conversa. O motivo é permitir que o usuário possa enviar a conversa para uma outra pessoa por meio de um link, mas a ferramenta vazou os endereços de mais de 370 mil conversas para mecanismos de pesquisa.

Em resumo, qualquer pessoa pode encontrar essas conversas buscando as mesmas em buscadores como Google, Bing, DuckDuckGo e outros.

“Hoje, uma pesquisa no Google por bate-papos Grok mostra que o mecanismo de busca indexou mais de 370.000 conversas de usuários com o bot. As páginas compartilhadas revelaram conversas entre os usuários do Grok e o LLM que variam de tarefas comerciais simples, como escrever tweets, gerar imagens de um ataque terrorista fictício na Caxemira e tentar invadir uma carteira de criptomoedas”, diz a Forbes sobre os vazamentos.

O que foi vazado?

De acordo com a agência alerta que muitos assuntos contém assuntos íntimos e sigilosos, envolvendo medicina, psicologia, planilhas, imagens, documentos de texto completos, nomes que possibilitam a identificação e até senhas.

Outro problema foi revelado, o qual mostrava que o Grok não seguia as regras anunciadas pelo X, como:

• Instruções para fazer drogas ilícitas (como fentanil e metanpina);
• Codificar malwares autoexecutáveis;
• Fornecer instruções para criação de bombas;
• Instruções para métodos de suicídio;
• Planos completos para o assassinato de Elon Musk e outras pessoas.