Ferramenta detecta e previne ataques hackers em sistemas médicos

Invenção desenvolvida por doutorando da USP de São Carlos será apresentada este mês em evento nos Estados Unidos

Agência FAPESP – Com o aumento do uso de inteligência artificial (IA) na medicina, sistemas de análise de imagens médicas têm se tornado alvos de ataques cibernéticos, comprometendo diagnósticos e colocando em risco a saúde de pacientes. Para enfrentar esse desafio, Erikson Júlio de Aguiar, doutorando do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), campus de São Carlos, desenvolveu o Radar-Mix, uma ferramenta que detecta e analisa ataques externos em sistemas de IA.

O trabalho foi conduzido no âmbito de um projeto financiado pela FAPESP, com orientação da professora Agma Juci Machado Traina, do ICMC-USP.

Aguiar continua a expandir suas pesquisas e apresentará os resultados mais recentes no SPIE Medical Imaging , evento que será promovido pela Sociedade Internacional de Óptica e Fotônica entre 16 e 20 de fevereiro na Califórnia, Estados Unidos.

Em junho de 2024, o doutorando recebeu o prêmio “Best Student Paper” no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), em Guadalajara, no México. A solução foi apresentada no artigo “RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability”.

De acordo com o doutorando, ataques hackers inserem pequenas alterações ou ruídos em imagens médicas, como as obtidas por raios X e equipamentos de ressonância magnética, para confundir os sistemas e levar a diagnósticos errados. O Radar-Mix foi criado exatamente para mitigar esse tipo de ameaça, fornecendo uma análise detalhada dos ataques.

“A inteligência artificial tem sido uma grande aliada no diagnóstico de doenças, mas, ao mesmo tempo, hackers têm encontrado formas de comprometer esses sistemas. O Radar-Mix é uma ferramenta que permite não só detectar esses ataques, mas também entender como e onde eles acontecem, o que é crucial para garantir a segurança dos diagnósticos”, explicou Aguiar em comunicado divulgado pela Assessoria de Comunicação do ICMC-USP.

O modelo usa ferramentas avançadas, como Grad-CAM e SHAP, que ajudam a mostrar, de forma visual, as partes de uma imagem que foram alteradas por um ataque. Esse detalhamento torna a proteção mais eficiente, porque o Radar-Mix não só detecta se o sistema foi atacado, mas também explica onde e como o ataque aconteceu, oferecendo uma análise mais completa se comparada a outras soluções já existentes.

Reconhecimento internacional

Segundo Traina, o Radar-Mix tem potencial para ser implementado diretamente em sistemas médicos, protegendo hospitais e centros de diagnóstico contra ataques cibernéticos que possam comprometer o tratamento dos pacientes. “O Radar-Mix foi desenvolvido de forma modular, facilitando sua implementação e adaptação em diferentes contextos. A interposição foi estruturada como um filtro entre o acesso aos serviços e servidores, oferecendo uma camada adicional de segurança e controle”, disse a professora do ICMC.

Essa proteção é fundamental, especialmente em um contexto em que o número de ataques cibernéticos a instituições de saúde tem crescido. “Nos Estados Unidos, por exemplo, um ataque pode afetar a reputação de um hospital e levar a grandes prejuízos financeiros e operacionais. O Radar-Mix ajuda a manter a confiança nesses sistemas de IA, o que é crucial tanto para os médicos quanto para os pacientes”, acrescentou o doutorando.

O Radar-Mix está disponível para uso, com o código-fonte aberto para reprodução em outras pesquisas ou para receber melhorias. Interessados podem acessar e contribuir pelo GitHub.

O reconhecimento no CBMS 2024 e a participação no SPIE Medical Imaging reforçam a importância dessa experiência internacional segundo Traina. “O Erikson está trabalhando com grandes nomes na área de segurança em IA e essa vivência no exterior vai contribuir muito para a carreira dele.”