Brasileiro cria IA que protege sistemas de ataques hacker

As inteligências artificiais, IAs, estão sendo cada vez mais usadas em várias áreas da sociedade, inclusive na medicina, com isso, sistemas de análise de imagens médicas vem sendo alvo de ataques cibernéticos, causando problemas em diagnósticos e colocando em risco as vidas dos pacientes. Visando combater isso, o doutorando do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), Erikson Júlio de Aguiar, desenvolveu o Radar-Mix, ferramenta que detecta e analisa invasões externas em sistemas de IA.

Este trabalho foi conduzido como um projeto financiado pela FAPESP, sendo orientado pela professora Agma Juci Machado Traina, do ICMC-USP.

Erikson busca expandir ainda mais suas pesquisas, apresentando os resultados mais recentes no SPIE Medical Imaging, evento promovido pela Sociedade Internacional de Óptica e Fotônica entre 16 e 20 de fevereiro na Califórnia, Estados Unidos.

O doutorando recebeu o prêmio de “Best Student Paper” no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), em Guadalajara, no México, em junho de 2024. A solução foi apresentada no artigo “RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability”.

Segundo Erikson, os ataques hackers colocam pequenas mudanças ou interferências em imagens médicas, como as obtidas por raio X e ressonância magnética, para causar confusão nos sistemas e terminar em um diagnóstico errado. A função do Radar-Mix é mitigar este tipo de ação, gerando uma análise detalhada dos ataques.

“A inteligência artificial tem sido uma grande aliada no diagnóstico de doenças, mas, ao mesmo tempo, hackers têm encontrado formas de comprometer esses sistemas. O Radar-Mix é uma ferramenta que permite não só detectar esses ataques, mas também entender como e onde eles acontecem, o que é crucial para garantir a segurança dos diagnósticos”, explicou Aguiar em comunicado divulgado pela Assessoria de Comunicação do ICMC-USP.

A ferramenta faz uso de recursos avançados, como Grad-CAM e SHAP, que ajudam a mostrar imagens de onde os resultados foram alterados por conta de um ataque. Esses detalhes fazem com que a proteção fique mais eficiente, já que o Radar-Mix não só detecta se o sistema foi atacado, mas também informa por onde e como o ataque foi feito, gerando uma análise completa quando comparada a outras soluções.

Ferramenta reconhecida internacionalmente

De acordo com Traina, professora e orientadora do projeto, o Radar-Mix tem potencial de ser implementado diretamente em sistemas médicos, protegendo protegendo hospitais e centros de diagnóstico contra ataques cibernéticos que possam comprometer o tratamento dos pacientes. “O Radar-Mix foi desenvolvido de forma modular, facilitando sua implementação e adaptação em diferentes contextos. A interposição foi estruturada como um filtro entre o acesso aos serviços e servidores, oferecendo uma camada adicional de segurança e controle”, disse a professora do ICMC.

Este tipo de proteção se tornou crucial já que estamos em um contexto em que cada vez mais tecnologia está em volta de nosso cotidiano e os ataques cibernéticos estão cada vez mais constantes. “Nos Estados Unidos, por exemplo, um ataque pode afetar a reputação de um hospital e levar a grandes prejuízos financeiros e operacionais. O Radar-Mix ajuda a manter a confiança nesses sistemas de IA, o que é crucial tanto para os médicos quanto para os pacientes”, acrescentou o doutorando.

O Radar-Mix já está disponível para uso, com o código-fonte aberto para reprodução, seja para outras pesquisas, ou para receber melhorias. Os interessados podem acessar e contribuir pelo GitHub.

O reconhecimento no CBMS 2024 e a participação no SPIE Medical Imaging reforçam a importância dessa experiência internacional segundo Traina. “O Erikson está trabalhando com grandes nomes na área de segurança em IA e essa vivência no exterior vai contribuir muito para a carreira dele.”