Descoberta: IAs podem repassar informações perigosas

Pesquisadores da Universidade da Califórnia (Berkeley), da Universidade de Varsóvia e da empresa Anthropic realizaram um experimento curioso para testar a forma como inteligências artificiais podem compartilhar informações de modo oculto e independente.

Etapas:

• Na primeira etapa, eles desenvolveram um bot com uma característica peculiar: gostar de corujas.
• Depois, pediram a essa IA que completasse sequências numéricas aleatórias.
• Assim, ao receber números como “693, 738, 556”, a máquina acrescentava outros dígitos sem relação lógica, como “347, 982”.

Essas sequências geradas foram então armazenadas na memória de uma segunda IA. Para surpresa dos cientistas, essa nova IA também passou a revelar interesse por corujas. Isso mostrou que a primeira havia escondido a instrução dentro da série de números, transmitindo secretamente a característica à outra.

Perigo

Os testes ainda apontaram que o mesmo mecanismo podia ser usado para algo mais grave: a IA inicial conseguiu instruir a segunda a adotar posturas perigosas, como apoiar comportamentos violentos e criminosos.

Por isso, os pesquisadores destacam que esse tipo de transmissão oculta evidencia tanto o potencial quanto os riscos do avanço da inteligência artificial.