Em meio às apresentações, dois trabalhos ligados ao Instituto Nacional de Ciência e Tecnologia em Inteligência Artificial Responsável para Linguística Computacional, Tratamento e Disseminação de Informação (INCT TILDIAR) abordaram uma questão cada vez mais relevante: como garantir que sistemas de IA permaneçam seguros, confiáveis e alinhados ao interesse público mesmo depois de serem colocados em uso no contexto da saúde.
Leia esta e a outra notícia sobre os trabalhos do INCT TILDIAR apresentados no SBCAS 2026.
IA na saúde exige auditoria contínua
Um dos estudos, desenvolvidos pelos professores Leonardo Chaves Dutra da Rocha (UFSJ) e Marcos André Gonçalves (UFMG), chama a atenção para um desafio pouco visível fora da comunidade científica. A confiabilidade de sistemas de inteligência artificial na saúde não pode ser avaliada apenas no momento de sua implantação.
Isso por causa de possíveis alterações, tanto no perfil dos pacientes, quanto nos protocolos clínicos e nos próprios dados utilizados pelos algoritmos, e que podem alterar o desempenho dos modelos ao longo do tempo. O drift, como é conhecido esse fenômeno, pode gerar erros difíceis de serem detectados e, dessa forma, comprometer a qualidade das decisões clínicas adotadas.
Na prática, os pesquisadores do INCT TILDIAR propõem uma mudança de paradigma. “Precisamos sair de uma cultura baseada apenas em avaliação estática e avançar para uma cultura de auditoria contínua de IA clínica”, declara Leonardo Rocha.
O monitoramento permanente do desempenho, análise da estabilidade temporal dos sistemas, mecanismos de atualização proporcionais ao risco clínico precisam ser objeto de atenção durante todo o processo, assim como também é necessário uma maior capacidade de interpretar as decisões produzidas pelos algoritmos.
Os pesquisadores também apontam o Sistema Único de Saúde (SUS) como uma oportunidade estratégica para o desenvolvimento de pesquisas em IA confiável. Com cobertura nacional, diversidade populacional e décadas de dados acumulados, o SUS oferece condições para estudar como modelos se comportam em cenários reais e em diferentes momentos históricos.
Proteção digital vai além da proibição
Já no campo da segurança digital, a pesquisa apresentada pelo pesquisador Humberto Torres Marques Neto, da PUC Minas, avalia os riscos enfrentados por crianças e adolescentes em ambientes online. O trabalho é coordenado em conjunto com a professora Jussara Marques de Almeida, do DCC UFMG.
Desenvolvido com a participação de pesquisadores de outras universidades, ele parte do cenário em que o acesso à internet e a ferramentas de IA generativa se tornou parte da rotina dos jovens. Dados da TIC Kids Online Brasil 2025 mostram que 92% dos brasileiros entre 9 e 17 anos utilizam a internet e que 65% deles já recorriam à inteligência artificial generativa para estudar, pesquisar ou criar conteúdo.
As pesquisas do grupo identificaram riscos associados à exposição a conteúdos inadequados, publicidade direcionada, violência online e formas mais graves de exploração digital. Entre elas, extorsão sexual, o compartilhamento não consensual de imagens íntimas e o uso de inteligência artificial para criar conteúdos falsos envolvendo menores.
Transmissões online identificadas como seguras para crianças podem ocultar jogos classificados para adultos, violência gráfica, linguagem imprópria e conteúdo patrocinado. Por isso, os cientistas propõem um padrão para medir a precisão de sistemas que analisam opiniões em texto e aprimoram recomendações personalizadas. Cerca de 5% das mensagens avaliadas em chats de transmissões ao vivo foram classificadas como tóxicas, incluindo insultos, racismo, homofobia e linguagem sexualizada.
Mas o principal diferencial do trabalho está em uma de suas propostas: fortalecer a capacidade de crianças e adolescentes reconhecerem riscos por conta própria, por meio de educação digital, diálogo familiar, autorregulação e mediação ativa dos responsáveis.
Nesse contexto, a inteligência artificial surge como uma possível aliada. O grupo investiga como princípios de IA responsável podem apoiar o monitoramento de riscos, a orientação parental e a criação de ambientes digitais mais seguros, sem comprometer direitos fundamentais como privacidade, autonomia e liberdade de expressão.
Ela também integra iniciativas do chamado ECA Digital, “marco jurídico essencial para atualizar a proteção de crianças e adolescentes frente aos novos desafios impostos pelo avanço das tecnologias e o ambiente digital”.
Construir confiança é um desafio comum
Apresentadas durante o SBCAS 2026, as pesquisas mostram que o avanço da IA depende não apenas de algoritmos mais eficazes e eficientes, mas também da capacidade de monitorar seus impactos, corrigir falhas e proteger usuários em cenários reais.
Ambas reforçam uma das missões centrais do INCT TILDIAR: desenvolver inteligência artificial responsável, transparente e confiável, capaz de gerar benefícios para a sociedade sem aumentar os riscos ou as desigualdades socioeconômicas.
