Quando a acurácia engana – Uma perspectiva centrada em dados sobre a confiabilidade e a responsabilidade em sistemas de IA

Um sistema de inteligência artificial pode acertar muito e ainda assim inspirar pouca confiança?

O Comitê Técnico de Ciência de Dados e Inteligência Artificial, fórum consultivo da Rede Nacional de Ensino e Pesquisa (RNP) vai discutir como os dados e o contexto de uso influenciam as decisões desses sistemas.

O convidado é o professor titular Marcos André Gonçalves, do Departamento de Ciência da Computação da Universidade Federal de Minas Gerais (DCC UFMG), que vai apresentar exemplos de classificação de textos e aplicações em saúde. Ele também vai abordar como as escolhas de organização, seleção, representação e transformação dos dados afetam as decisões dos modelos de inteligência artificial.

Durante a palestra ele vai discutir quatro desafios, a partir de exemplos de classificação de textos e aplicações em saúde: calibrar a confiança, adaptar sistemas a mudanças ao longo do tempo, compreender as explicações produzidas e intervir nos dados para melhorar as decisões.

A proposta é ampliar a avaliação desses sistemas para além da acurácia, considerando também os dados utilizados e o contexto em que as decisões são aplicadas.a

Sobre o palestrante

Marcos André Gonçalves coordena o Instituto Nacional de Ciência e Tecnologia em Inteligência Artificial Responsável para Linguística Computacional, Tratamento e Disseminação de Informação (INCT TILDIAR) e o LBD.ai — Data & AI Research Lab. É bolsista de produtividade em pesquisa nível 1-A do CNPq, doutor pela Virginia Tech e atua nas áreas de Recuperação de Informação, Aprendizado de Máquina, Processamento de Linguagem Natural,
Ciência de Dados, Modelos de Linguagem e Inteligência Artificial Responsável. Em 2026, foi escolhido Pesquisador Homenageado do Simpósio Brasileiro de Bancos de Dados (SBBD).

Transmissão: [ConferênciaWeb da RNP]: https://conferenciaweb.rnp.br/rnp/ct-cdia

Gravações de eventos anteriores [Canal do CT-CDIA no Eduplay]
https://eduplay.rnp.br/ct-cdia