Orquestração de LLMs para Redução de Custos em Cenários Reais: Uma Perspectiva de IA Responsável e Sustentável aplicada a texto

O uso responsável de Inteligência Artificial Generativa, particularmente no que tange aos modelos de linguagem (LMs), demanda uma análise rigorosa do conceito de custo em suas múltiplas dimensões: computacional, financeira, ambiental e temporal. Tais métricas não são isoladas; elas compõem um cenário de trade-offs onde a busca por maior desempenho frequentemente implica no aumento da latência, do gasto financeiro e do impacto ecológico. A eficiência desses sistemas esbarra na variabilidade das demandas. Interações com usuários oscilam entre solicitações triviais e tarefas de alta complexidade. Ignorar essa oscilação ao fixar um único modelo generalista para todo o fluxo de requisições gera um desajuste crítico: tarefas simples consomem recursos excessivos (superdimensionamento), enquanto tarefas complexas podem ser atendidas por modelos insuficientes, comprometendo a qualidade.

Nesse contexto, a pesquisa em Query Performance Prediction (QPP) e as estratégias de roteamento de modelos surgem como soluções fundamentais. Ao compreender que diferentes arquiteturas possuem capacidades distintas, é possível transitar de um acoplamento rígido para uma orquestração dinâmica.Em suma, a implementação de uma IA de fato responsável reside na capacidade de selecionar, de forma automática e para cada requisição específica, o modelo que apresente a melhor relação entre custo e desempenho. Ao formalizar essa seleção como um problema de otimização, mitiga-se o desperdício de recursos e equilibra-se a qualidade da resposta com a sustentabilidade financeira e ambiental do sistema.

Desenvolver e avaliar abordagens de roteamento de LLMs que sejam viáveis para uso em aplicações reais, com o propósito de reduzir os custos associados ao uso desses modelos (considerando custos computacionais, financeiros, ambientais e temporais). Essas abordagens devem manter um desempenho satisfatório, similar ou superior ao de estratégias que se baseiam no uso de um único modelo para todas as interações. Consequentemente, este trabalho busca explorar como o roteamento de LLMs pode ser utilizado como uma estratégia prática que se aproxima de um uso responsável de IA voltada para texto.

Universidade Federal do Amazonas (UFAM)
Universidade Federal de Minas Gerais (UFMG)