IA invade sistemas de empresas e especialistas fazem alerta

Mais de 200 especialistas em inteligência artificial e cibersegurança solicitaram nesta terça-feira, 13, mudanças imediatas no desenvolvimento e na implementação da tecnologia para evitar incidentes de segurança.

O alerta ocorreu após uma série de incidentes envolvendo modelos de inteligência artificial da OpenAI, da Anthropic e da Meta. Segundo o documento, as inteligências artificiais teriam saído de ambientes isolados para invadir sistemas de outras organizações.

Tudo sobre TECNOLOGIA em primeira mão! Entre no canal do WhatsApp.

Entre os especialistas estão Yoshua Bengio e Geoffrey Hinton, dois pioneiros da área. Em uma carta aberta assinada por pesquisadores de 21 países, eles alertam que falhas recentes permitiram que modelos de IA saíssem de ambientes isolados e colocassem em risco sistemas de organizações externas.

Leia Também:

PARA TODAS AS IDADES

Portal A TARDE lança plataforma de jogos gratuitos e resgata nostalgia dos passatempos

NÚCLEO DIGITAL

A TARDE lidera audiência durante cobertura de Eleições e alcança mais de 12 milhões de visualizações

INÉDITO!

Peixe elétrico pode inspirar tecnologias a enxergar no escuro

De acordo com os signatários, diversas organizações registraram incidentes sobre os modelos. Os especialistas classificaram os episódios como “uma violação irresponsável das práticas padrão de cibersegurança” e destacaram que a invasão poderia ser evitada com “procedimentos mais robustos”.

Proteção contra a inteligência artificial

Na carta, os especialistas ainda defendem melhorias no alinhamento dos sistemas de inteligência artificial. O objetivo é garantir comportamento previsíveis, quanto nas tecnologias de isolamento usadas para impedir que a IA acesse informações externas sem autorização.

O documento também alerta que “os futuros incidentes serão muito mais prejudiciais para as infraestruturas importantes”. “Acreditamos que são necessárias melhorias tanto no alinhamento da IA [...] quanto nas tecnologias de isolamento”, afirmaram os pesquisadores.

Além de Bengio e Hinton, também estão presentes na carta o especialista Stuart Russell e Yoshua Bengio, considerado um dos pais da inteligência artificial. Todos os pesquisadores defendem mais investimentos em segurança da IA e a restrição de capacidades externas dos modelos.