Kids Online: Estratégias Baseadas em IA para Proteção de Crianças e Adolescentes em Ambientes Digitais

Ambientes digitais criados por plataformas e sistemas on-line criam espaços virtuais onde milhões de pessoas de todas as idades passam grande parte do tempo. Essa nova dinâmica gera inúmeras possibilidades, mas também apresenta diversos desafios. Os ambientes digitais transformam as formas de aprendizado, o acesso à informação, a comunicação com os pares, o entretenimento e o trabalho. Crianças e adolescentes, por exemplo, utilizam os recursos dos ambientes digitais para estudar, fazer novas amizades, jogar, publicar e consumir conteúdos digitais de diferentes naturezas.

No entanto, estudos e relatos apontam para um aumento de situações de risco para os jovens,
como a exposição a conteúdos ofensivos, pornográficos ou inadequados; a vulnerabilidade a abordagens  maliciosas por parte de outros usuários; e também as estratégias utilizadas por alguns ambientes para reter a atenção dos envolvidos por longos períodos de tempo. Destaca-se que isso ocorre a despeito da existência de várias ferramentas de controle de acesso disponíveis para pais e responsáveis pela proteção, formação e educação dessas crianças e adolescentes.

Este projeto de pesquisa busca desenvolver estratégias baseadas em inteligência artificial(IA) para potencializar a proteção, a formação e a educação de crianças e adolescentes em espaços on-line. Essas estratégias incluem planos de ação e métodos fundamentados em novos algoritmos e modelos de IA centrados no ser humano, projetados a partir da análise e modelagem do comportamento dos usuários em ambientes digitais. Tais estratégias poderão fomentar o desenho e a construção de protótipos de soluções tecnológicas responsáveis e inovadoras, capazes de tornar os ambientes mais seguros, promissores e mais alinhados com as demandas desses jovens, os quais muitas vezes desenvolvem suas próprias estratégias para burlar as restrições de acesso e funcionalidades aplicadas pelos sistemas de controle parental.

Desenvolver estratégias baseadas em inteligência artificial (IA) para potencializar a proteção, a formação e a educação de crianças e adolescentes em espaços on-line.

Pontifícia Universidade Católica de Minas Gerais (PUC – MG)