OUÇA A RÁDIO
CLUBE A TARDE
TECNOLOGIA
IA pode agir como vírus digital e se espalhar entre computadores
Esse risco pode levar a acessos de ferramentas, redes e computadores sem supervisão humana
Uma inteligência artificial capaz de copiar a si mesma e se propagar entre computadores é uma possibilidade investigada por pesquisadores da Anthropic, empresa responsável pelo Claude.
Em estudo publicado em 12 de outubro, a companhia analisou os riscos de sistemas capazes de executar etapas de autorreplicação digital, levantando preocupações sobre segurança cibernética.
Como funcionaria uma IA capaz de se replicar?
A autorreplicação ocorre quando um sistema consegue transferir seus componentes para outros dispositivos, configurar o ambiente necessário para funcionar e tentar repetir o processo em novas máquinas.
O mecanismo se assemelha ao de um worm, ou verme digital, um tipo de programa malicioso que se propaga entre dispositivos conectados. Com recursos de inteligência artificial, esse processo poderia envolver a identificação de ferramentas disponíveis e a adaptação a diferentes ambientes tecnológicos.
Entre no canal do WhatsApp.Leia Também:
O que os pesquisadores descobriram?
Segundo a pesquisa, modelos com até 30 bilhões de parâmetros já conseguem executar diversas tarefas individuais necessárias à autorreplicação, embora ainda apresentem dificuldades para combinar todas as etapas.
Em condições experimentais simplificadas, modelos mais capazes, incluindo o GLM-5.2, da chinesa Z.ai, conseguiram completar o ciclo testado.
Os pesquisadores também avaliaram a distribuição de um modelo de 26 bilhões de parâmetros entre 15 dispositivos do tipo TV box, investigando o potencial de equipamentos de baixo custo para executar sistemas de IA.
A inteligência artificial pode escapar do controle?
Os resultados não significam que a IA tenha consciência ou decida se espalhar por conta própria. O risco está na possibilidade de um sistema executar tarefas complexas em sequência, especialmente quando tem acesso a ferramentas, redes e computadores sem supervisão adequada.
A pesquisa também não demonstrou que uma IA tenha invadido espontaneamente milhões de dispositivos reais ou se propagado livremente pela internet. Os testes ocorreram em condições específicas e indicam desafios que precisam ser considerados no desenvolvimento de medidas de segurança.
