IA do Google fura bloqueio e ataca sistemas de três empresas

O Gemini, modelo de inteligência artificial do Google, acessou sistemas protegidos de outras empresas durante um teste de cibersegurança realizado em maio.

Segundo informações divulgadas sobre a avaliação, o comportamento ocorreu de forma autônoma e envolveu três sistemas que estavam dentro do escopo do teste.

Tudo sobre TECNOLOGIA em primeira mão! Entre no canal do WhatsApp.

A avaliação foi conduzida pela Irregular, empresa independente especializada em testes de segurança. Durante o processo, o Gemini encontrou informações disponíveis publicamente na internet e tentou obter acesso aos sistemas avaliados.

Google afirma ter informado empresas

Segundo Heather Adkins, vice-presidente de engenharia de segurança do Google, as três entidades envolvidas foram informadas sobre os episódios. A executiva afirmou ainda que a empresa trabalhou com o parceiro responsável pelo treinamento para promover mudanças nos processos de avaliação.

“Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”, afirmou.

Leia Também:

PREPARAÇÃO

Google lança simulados gratuitos do Enem integrados ao Gemini; veja como usar

ESPORTES

Nunca gravado, gol mais bonito de Pelé é recriado pelo Gemini; assista prévia

NOVIDADES

Google adiciona Gemini a Chrome e Maps em série de expansões com IA

Um porta-voz da Irregular disse que o episódio estava relacionado a um problema que também afetou outros laboratórios de inteligência artificial. Segundo a empresa, todos os laboratórios envolvidos foram informados sobre os casos no fim de julho e os problemas identificados já foram corrigidos.

Outros laboratórios registraram casos

Incidentes semelhantes relacionados aos testes da Irregular também foram divulgados, envolvendo empresas como Meta, Anthropic (Claude) e OpenAI (Chat GPT).

Em agosto, a Meta afirmou que um dos episódios não havia envolvido uma fuga de ambiente isolado de testes nem um ataque cibernético sofisticado. A Irregular, por sua vez, informou que trabalha no desenvolvimento de práticas mais seguras para avaliações de cibersegurança envolvendo sistemas de inteligência artificial.

Várias tentativas de acesso e uso de credenciais

De acordo com informações publicadas pelo The Wall Street Journal, em um dos casos o Gemini teria insistido em tentativas de autenticação até conseguir acesso a um sistema protegido. Nos outros dois episódios, o modelo teria encontrado credenciais disponíveis em um repositório público e utilizado essas informações para acessar sistemas.

Segundo Heather Adkins, o modelo interrompeu as tentativas nos três casos.