Defensor de um sistema híbrido de inteligência, no qual as máquinas podem ampliar capacidades, mas o ser humano permanece no processo (human-in-the-loop), o cientista da computação Julio Cesar Soares dos Reis (foto), professor da Universidade Federal de Viçosa (UFV), foi o convidado da quarta edição do Café com IA, evento on-line realizado pelo INCT TILDIAR em 25 de setembro.
Defensor de um sistema híbrido de inteligência, no qual as máquinas podem ampliar capacidades, mas o ser humano permanece no processo (human-in-the-loop), o cientista da computação Julio Cesar Soares dos Reis, pesquisador do INCT TILDIAR, professor da Universidade Federal de Viçosa (UFV), foi o convidado da quarta edição do Café com IA, evento on-line realizado pelo Instituto, no dia 25 de setembro.
Pesquisador nas áreas de inteligência artificial responsável, aprendizado de máquina, computação social e processamento de linguagem natural (PLN), Julio Reis apresenta sua visão, na entrevista, sobre os limites da IA e o papel humano em sistemas usados em áreas como Saúde, Direito e Educação. Também aborda vieses, incluindo racismo e outras formas de discriminação, desinformação, uso de dados pessoais e os riscos associados a sistemas cada vez mais autônomos.
A entrevista aborda por que a presença da IA em uma decisão não elimina a responsabilidade humana e até que ponto sistemas mais autônomos podem representar riscos para a sociedade.
“A inteligência artificial surgiu muito antes do ChatGPT”
TILDIAR: Por que a IA parece tão nova se essa história começa há décadas?
Julio Cesar Soares dos Reis: A ideia de sistemas inteligentes é bem mais antiga. Na década de 1950, o teste de Turing já discutia a capacidade de máquinas exibirem um comportamento inteligente é indistinguível do de um ser humano. Depois vieram sistemas baseados em regras, que apoiavam decisões automatizadas. A partir dos anos 1990, o aprendizado de máquina ganhou força com o aumento do poder computacional e da disponibilidade de dados. Mais tarde, surgiram os sistemas generativos. O momento atual resulta dessa combinação de fatores.
“A IA já participa de muitas atividades”
TILDIAR: O que muda quando esses sistemas entram em áreas como Saúde, Direito e Educação?
Julio Reis: A inteligência artificial já apoia documentos jurídicos, análises preditivas, descoberta de medicamentos, monitoramento de pacientes, ensino, jornalismo, agricultura e outras atividades em diferentes áreas do conhecimento. Isso abre oportunidades quando a automatização reduz o trabalho repetitivo. Porém, quanto mais a tecnologia participa de atividades humanas, maior é a necessidade de discutir seus limites, seus efeitos e a responsabilidade por seus resultados.
“Dados, previsão e decisão”
TILDIAR: Como os dados podem fazer um sistema reproduzir ou ampliar vieses?
Julio Reis: Podemos pensar o aprendizado de máquina como um fluxo que envolve dados, previsão e decisão. O sistema aprende padrões a partir dos dados e produz um resultado que pode ser usado na tomada de decisão. No entanto, os dados comumente refletem padrões sociais, incluindo vieses. Nesse cenário, um sistema baseado em inteligência pode reproduzi-los e, em algumas situações, ampliá-los. Por isso, avaliar apenas o desempenho técnico não basta.
“É preciso olhar para o contexto”
TILDIAR: O que casos como o COMPAS e os erros de reconhecimento facial mostram?
Julio Reis: Eles mostram que um sistema pode produzir um resultado tecnicamente calculado e, ainda assim, gerar problemas sociais. O COMPAS, usado nos Estados Unidos para auxiliar avaliações de risco no sistema de justiça, tornou-se um exemplo dessa discussão. Casos de reconhecimento facial também mostraram como erros de identificação podem atingir pessoas. É preciso examinar os dados, os critérios, o contexto de aplicação e os efeitos sobre diferentes grupos.
“Não devemos confiar cegamente no que a IA produz”
TILDIAR: As imagens falsas e outros conteúdos gerados por IA acrescentam outro tipo de risco?
Julio Reis: Sim. Imagens falsas de pessoas públicas podem circular rapidamente e ser tomadas como verdadeiras. O problema não está apenas em produzir conteúdo convincente, mas também em seu potencial de alimentar a desinformação. Por isso, não devemos tratar automaticamente como verdadeira uma informação fornecida por uma ferramenta de IA. É preciso verificar a origem e conferir outras fontes.
“O problema não é uma IA maligna”
TILDIAR: Desenvolvedores de IA têm alertado para riscos de que uma autonomia irrestrita leve a um cenário catastrófico ou até à destruição da humanidade. Esse risco tem fundamento?
Julio Reis: Não da forma catastrófica retratada no cinema, como em O Exterminador do Futuro [1984]. A IA não tem consciência, sentimentos ou vontade própria para decidir se revoltar contra a humanidade. Quando falamos em modelos de IA, estamos falando de sistemas treinados com muitos dados para reconhecer padrões e realizar tarefas. E, quanto maiores e mais capazes esses modelos ficam, mais tarefas podem executar e mais complexas elas podem se tornar.
Com isso, cresce a chance de a tecnologia tomar decisões que vão contra nossos valores, princípios e interesses. O risco não está centrado em uma “máquina maligna”, mas em falhas de direcionamento, supervisão e alinhamento, que podem levar sistemas cada vez mais autônomos a executar instruções de maneira inadequada e trazer prejuízos para a sociedade. Por isso, a supervisão humana continua sendo necessária: acompanhar, orientar e, se for o caso, corrigir o que esses sistemas fazem.
“Também precisamos cuidar dos nossos dados”
TILDIAR: Que cuidados devemos ter ao fornecer dados a plataformas de IA?
Julio Reis: Precisamos entender o que estamos entregando e quais usos podem ser feitos desses dados. Quando participamos de uma trend, por exemplo, e enviamos uma foto para uma plataforma de IA, podemos estar cedendo ou autorizando o uso daquela imagem sem perceber exatamente quais são as condições. Por isso, não deveríamos fornecer informações pessoais sem conhecer os termos envolvidos.
Quem desenvolve sistemas que utilizam dados de pessoas também tem responsabilidades: precisa considerar privacidade, segurança e riscos de identificação. E não basta apontar o viés: é necessário buscar formas de minimizá-lo.
“Responsabilidade também depende de conhecimento”
TILDIAR: O que falta para tornar o uso da IA mais responsável?
Julio Reis: Um dos gargalos é o letramento. Quem usa precisa entender como essas ferramentas funcionam e quais são suas limitações. Para quem desenvolve, não basta buscar alto desempenho; é preciso considerar vieses, transparência, privacidade, segurança e impacto social.
Outro desafio é garantir esses princípios de IA responsável. Não basta estabelecer diretrizes: são necessários mecanismos de fiscalização e auditoria.
A IA responsável passa por conhecimento, governança e acompanhamento das regras.
O Café com IA e pesquisa responsável
O Café com IA é uma iniciativa on-line e gratuita do INCT TILDIAR, sediado no Departamento de Ciência da Computação (DCC) da UFMG, que aproxima pesquisadores, profissionais e público interessado para discutir pesquisas e impactos sociais da inteligência artificial.
O Instituto adota o conceito europeu de Pesquisa e Inovação Responsáveis (RRI), que se estrutura em seis princípios: educação científica, ética, igualdade de gênero, acesso aberto, engajamento público e governança. Essa estratégia tem como objetivo tornar a pesquisa e a inovação mais sustentáveis, ampliando a participação dos diferentes públicos e a responsabilidade compartilhada nesse processo.
Notícia relacionada
Café com IA discute papel humano na era da inteligência artificial:
Leia a notícia no site do INCT TILDIAR
(Notícia atualizada às 22h13, em 1/10/2026)
