Deepfakes: Dicas para identificar vídeos e áudios falsos feitos por IA

Em tempos de inteligência artificial (IA), o número de vídeos, imagens e áudios falsos criados pela tecnologia cresceram e dominaram diversas áreas da sociedade. As chamadas deepfakes, que parecem autênticas, estão causando ainda mais preocupação na mídia, na política e na segurança pessoal devido à alta sofisticação dos algoritmos.

Segundo Gabriel Gomes de Oliveira, especialista do Instituto de Engenheiros Elétricos e Eletrônicos (IEEE), esses conteúdos, apesar de serem de difícil identificação, podem ser evitados à medida que se promove a difusão de percepções visuais e, de até conhecimentos técnicos.

“A detecção da ameaça envolve o reconhecimento de anomalias digitais, como mudanças na iluminação, movimentos bruscos e sincronia labial inadequada”, explica Oliveira.

Leia também

>> Suposto vídeo de Mel Maia com traficante viraliza na web
>> Meta identificará conteúdos gerados por IA
>> Novas regras fecham o cerco contra a deepfake em eleições municipais

Conforme explica o especialista, é fácil perceber a deturpação das imagens através de elementos digitais na imagem: pequenas inconsistências que não estariam presentes em vídeos genuínos. Outra dica é observar a iluminação da cena. É comum haver variações não naturais na iluminação de um quadro para o outro.

Movimentos bruscos também são bastante comuns em vídeos e áudios feitos por inteligência artificial. Eles parecem mecânicos ou fora do ritmo natural. As alterações também podem ser percebidas em tom de pele, que podem ser diferentes em algumas partes da imagem e que facilmente indicam manipulação.

Além disso, vídeos manipulados costumam apresentar frequentes piscadas de olhos, que não correspondem a um comportamento humano normal, e sincronia nos lábios em que não se movem de forma sincronizada com o áudio.

Combate

O especialista ainda destaca a importância da educação e medidas de segurança avançadas para combater vídeos manipulados digitalmente e proteger dados em tecnologias imersivas. Além de identificar simulações digitais, proteger a privacidade em um mundo de tecnologias imersivas, como a realidade aumentada (RA) e virtual (RV), também é crucial.

Segundo explica ele, essas tecnologias coletam uma vasta quantidade de dados sensoriais, o que pode representar riscos significativos à privacidade. Para mitigar esses riscos, o membro do IEEE sugere medidas como: educação sobre ameaças atuais, exercícios simulados, protocolos de relatório, aprendizado contínuo e atualizações e a construção de uma cultura de segurança.

Para proteger a privacidade em tecnologias de realidade aumentada (RA) e virtual (RV) na sala de aula, Oliveira sugere revisar constantemente o sistema e a infraestrutura para identificar e corrigir vulnerabilidades, garantir que todas as fontes de dados sejam seguras e confiáveis, e empregar especialistas em cibersegurança para fortalecer as defesas. Ele também recomenda contratar serviços específicos para identificar e mitigar vulnerabilidades, investir em treinamentos contínuos para qualificar colaboradores e monitorar e analisar dados internos para detectar ameaças ou violações.

“É fundamental equilibrar defesas técnicas com a conscientização sobre segurança cibernética para criar uma estratégia robusta”, enfatiza ele. Ele também sugere incentivar a colaboração entre equipes de TI e outros departamentos para garantir que as medidas de segurança e programas de treinamento estejam alinhados com as necessidades organizacionais.

Para o futuro, é essencial conduzir avaliações regulares de vulnerabilidade e testes para identificar e abordar possíveis fraquezas nas defesas, tanto técnicas quanto humanas. "A informação e a educação são a base para o avanço seguro e inteligente de tecnologias inovadoras para toda a sociedade", conclui o especialista do IEEE.