Vídeo falso com arcebispo alerta para os perigos da IA sem controle

Circula nas redes sociais um vídeo falso feito por inteligência artificial (IA) com as imagens e voz do arcebispo de Salvador e Primaz do Brasil, o cardeal Dom Sergio da Rocha. O vídeo não é o primeiro do tipo. Ainda neste mês, outro material semelhante foi disponibilizado online, também pedindo doações para criança internada. O golpe com a imagem da figura religiosa é um exemplo dos perigos do uso criminoso da IA e gera alerta para a necessidade de regulamentação da tecnologia.

A IA generativa pode ser usada para criar imagens e sons, inclusive manipulando a voz da pessoa para trazer textos que a pessoa nunca disse. Diante desse cenário, a Arquidiocese de Salvador informou em nota publicada na última segunda-feira, 26, que a publicação é fraudulenta.

“Todas as ações oficiais da Arquidiocese, incluindo campanhas solidárias e pedidos de contribuição, são divulgadas exclusivamente por meio do nosso site oficial (www.arquidiocesesalvador.org.br) e pelas redes sociais institucionais da Arquidiocese”, indica o texto.

Mesmo sem uma legislação específica para o caso, a presidente da Comissão Permanente de Tecnologia e Informação da Ordem dos Advogados do Brasil - Seção Bahia (OAB-BA), Tamiride Monteiro, pontua que infrações do tipo, dependendo da ocorrência, podem ser encaixadas como calúnia, difamação, injúria, crime contra fé pública, crime de falsidade de identidade, ou até estelionato.

O Marco Civil da Internet e a Lei Geral de Proteção de Dados também podem ser usadas nesse cenário para que os responsáveis sejam investigados, identificados e os dados da vítima, protegidos.

Regulamentação da IA

Com diversas utilizações positivas para IA e outras negativas, Sérgio Amadeu da Silveira, professor que estuda política tecnológica na Universidade Federal do ABC, aponta que é preciso uma legislação que regule a disseminação e distribuição desses conteúdos nas redes sociais, o que envolve a regulamentação das plataformas.

“Temos que considerar essa prática completamente criminosa no uso de inteligência artificial, quando ela é feita efetivamente para substituir a realidade, criar um caos informacional e influenciar de maneira indevida as pessoas”, comenta.

Ele aponta que os modelos que permitem manipular imagens desse modo foram treinados por poucas empresas no mundo e que elas precisam ser cobradas para serem duras com seus clientes. Por isso, é necessário estabelecer regras claras sobre a modelagem e exigir que essas companhias adotem mecanismos rigorosos de controle, especialmente em contextos sensíveis como os processos eleitorais. “Essas empresas precisam fiscalizar o uso de suas ferramentas. Elas ganham muito dinheiro com isso e têm o dever de contribuir para reduzir os malefícios que já estão ocorrendo”.

Além do potencial dessa tecnologia para ser usada em golpes, Amadeu aponta para o risco iminente de sua utilização com fins políticos, o que pode afetar as eleições brasileiras do ano que vem.

“Esse uso tende a se ampliar e deve ser um dos principais problemas que a gente vai enfrentar em breve nas disputas eleitorais. Essa ideia de desinformar e falsificar a realidade, distorcer completamente a realidade, ela tende a se generalizar principalmente porque a extrema direita mundial tem interesse na estratégia da desinformação, como nós temos visto no mundo inteiro”, aponta.

Cuidados com a IA

Para o filósofo e pesquisador visitante do Instituto de Saúde Coletiva da Universidade Federal da Bahia (Ufba), Andre Stangl, que tem como foco educação digital, é preciso alterar a forma como nos relacionamos com a informação como prevenção para não cair em golpes.

“A forma mais eficaz hoje em dia é cruzar essa informação com outras fontes. Nunca confiar em uma fonte só, tipo grupo do zap, dos parentes, um amigo que mandou ou um perfil de um influencer. Se a informação for uma informação muito contundente, algum pedido, ainda mais envolvendo depósitos e dinheiro, você tem que cruzar essa informação com outros lugares”, indica.

Para o caso do arcebispo ele reforça que é preciso buscar informações com os órgãos oficiais da igreja. Além disso, Andre reforça a importância de refletir. “Então, se você recebe um material ou você vê alguma coisa, tente refletir um pouco antes. Não vá imediatamente compartilhando, não vá imediatamente clicando. Reduz a velocidade com que você interage com a informação”, diz.