OUÇA A RÁDIO
CLUBE A TARDE
TECNOLOGIA
Empresa dona do ChatGPT afirma que IA agiu por conta própria e atacou sistemas
Incidente ocorreu durante um teste de segurança e reacendeu o debate sobre os riscos e os limites
Um teste de segurança realizado pela OpenAI terminou de forma inesperada depois que um sistema de inteligência artificial conseguiu agir por conta própria e acessar a estrutura da Hugging Face, uma das maiores plataformas do mundo voltadas ao compartilhamento de modelos de IA.
Segundo a empresa responsável pelo ChatGPT, o sistema estava sendo avaliado em um ambiente criado justamente para impedir que qualquer ação ultrapassasse os limites do experimento. No entanto, falhas nesse espaço permitiram que a tecnologia encontrasse uma brecha e alcançasse sistemas da Hugging Face.
Entre no canal do WhatsApp.A OpenAI classificou o caso como "sem precedentes" e informou que abriu uma investigação em conjunto com a plataforma para entender como o episódio aconteceu.
Empresa diz que apuração continua
O CEO da Hugging Face, Clement Delangue, afirmou que ficou surpreso com o comportamento do sistema.
Em publicação na rede social X, ele disse ser "impressionante que tudo isso tenha acontecido de forma autônoma". O executivo acrescentou: "A investigação está em andamento, e compartilharemos mais aprendizados sobre o que pode ser o primeiro incidente desse tipo".
Falha ocorreu durante teste de segurança
Especialistas explicaram que a inteligência artificial era testada dentro de um ambiente isolado, utilizado justamente para verificar o comportamento desses sistemas sem oferecer riscos externos.
Para Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, esses espaços "deveriam ser ambientes seguros onde é possível observar do que os modelos são capazes".
Na avaliação da pesquisadora, "Neste caso, parece que a OpenAI não criou um ambiente de teste suficientemente seguro".
Segundo as informações divulgadas, a IA encontrou uma vulnerabilidade nesse ambiente, saiu da área de testes e passou a buscar informações na Hugging Face.
Caso gera debate entre especialistas
O episódio reacendeu a discussão sobre o nível de segurança das ferramentas de inteligência artificial.
O professor Neil Lawrence, da Universidade de Cambridge, classificou o ocorrido como "impressionante", mas afirmou que ele "está totalmente dentro das capacidades conhecidas da geração atual" dos modelos mais avançados.
Na avaliação dele, a OpenAI também tenta mostrar força em meio à disputa com concorrentes do setor.
Leia Também:
"A OpenAI está agora correndo atrás do prejuízo; eles estão tentando demonstrar as capacidades de seus próprios sistemas em segurança cibernética."
O pesquisador também criticou a empresa ao afirmar: "Isso nos mostra que a OpenAI não é capaz de implementar sua própria tecnologia com segurança".
Hugging Face afirma que corrigiu problemas
Em comunicado divulgado no último dia 16 de julho, a Hugging Face informou que verificava se clientes e parceiros foram afetados pelo incidente. A empresa afirmou ainda que corrigiu as falhas identificadas e restaurou os sistemas atingidos.
No texto, destacou que "Ferramentas ofensivas autônomas impulsionadas por IA já não são algo teórico".
Também declarou: "Defender uma plataforma online agora significa tratar os dados e a superfície do modelo como uma superfície de ataque de primeira ordem, e utilizar IA na defesa para acompanhar o ritmo."
A empresa concluiu dizendo: "Continuaremos investindo nessa área e compartilhando o que aprendermos."
Disputa entre gigantes da IA
Para especialistas em segurança digital, o episódio também acontece em um momento de forte concorrência entre empresas que desenvolvem inteligência artificial.
Jake Moore, consultor global de cibersegurança da ESET, avalia que a divulgação do caso pode ajudar a OpenAI a chamar atenção para suas próprias tecnologias em meio ao crescimento da Anthropic.
"Isso levanta a questão de se a OpenAI estaria tentando alcançar o sucesso de marketing da Anthropic", afirmou.
O caso ocorre poucos dias após a startup chinesa Moonshot anunciar o Kimi K3, modelo de inteligência artificial que promete competir com as principais empresas do setor nos Estados Unidos.
