Clima, criação de algoritmos equitativos e combate às fake news. Essas são algumas das utilidades da inteligência artificial (IA) nas diversas áreas do conhecimento, com soluções inovadoras, além de desafios complexos. A pesquisadora Lilian Berton, professora adjunta no Instituto de Ciência e Tecnologia, da Universidade Federal de São Paulo (ICT/Unifesp) - Campus São José dos Campos, estuda IA há 14 anos, quando ainda nem se cogitava o uso excessivo de inteligência artificial que existe hoje. Ela ressalta algumas das aplicações mais relevantes, mas também os desafios enfrentados na área.
Entre os diversos campos de estudo, a aplicação da IA na previsão de eventos climáticos se destaca por sua complexidade. Fenômenos como o El Niño-Oscilação Sul (na sigla em inglês, ENSO), que afetam os padrões meteorológicos globais, apresentam problemas significativos devido à imprevisibilidade e à ausência de padrões fixos. "Já fizemos um trabalho explorando o uso da IA na classificação do ENSO, pois prever esse tipo de fenômeno é de extrema relevância para a sociedade", destaca Berton.
Uma das questões mais urgentes relacionadas à IA é a criação de algoritmos equitativos. Devido à dependência cada vez maior de decisões automatizadas, como admissões em universidades, concessão de crédito financeiro e diagnósticos médicos, os algoritmos precisam ser justos e imparciais para todas as demografias. "Isso inclui a geração de bases de dados representativas e bem rotuladas, além da necessidade de impedir que os próprios algoritmos ampliem vieses preexistentes”, ela explica.
O fato de a inteligência ser uma máquina que aprende com outras máquinas pode reproduzir estereótipos e preconceitos, por isso a diversidade nas equipes de pesquisa também é essencial para identificar e reduzir esses vieses.
Um exemplo de como transpor esse obstáculo está em um projeto que Lilian coordena sobre imparcialidade em aprendizado de máquina aplicado a imagens médicas. Financiado pela Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp), o estudo busca garantir que modelos de IA em saúde sejam confiáveis e justos, evitando discriminações involuntárias em diagnósticos e tratamentos.
Entre as diversas aplicações desenvolvidas, destaca-se um framework para diagnóstico de covid-19 utilizando imagens de raio-X. Criado pelo aluno de Lilian Berton, Matheus Castro Santos, o sistema demonstra o potencial da IA na análise de imagens médicas para identificação rápida de doenças. Outro aluno da professora também se destacou ao analisar postagens no antigo Twitter (hoje X) no início da pandemia. O doutorando Klaifer Garcia identificou os principais temas de preocupação da população a partir do isso de IA, o que gerou a publicação de seu trabalho na revista Applied Soft Computing, periódico de acesso aberto que fornece um fórum para pesquisas que conectam as disciplinas de ciência da computação, engenharia e matemática usando as tecnologias de inteligência. O artigo se tornou um dos mais citados da publicação em 2023 e 2024.
News ainda mais fake
Com a evolução da IA, um problema antigo, mas que cresce cada vez mais, é a propagação de fake news e deepfakes. A professora atualmente desenvolve um projeto em parceria com a Serasa Experian para analisar a disseminação de fake news na economia e finanças.
Esse tipo de pesquisa é cada vez mais necessário no país. Estudo de junho de 2024, da Organização para Cooperação e Desenvolvimento Econômico (OCDE), revelou os países com maior habilidade para identificar notícias falsas. O Brasil ficou na última posição, como o país onde a população mais acredita em notícias falsas, entre 40.756 entrevistados(as) de 21 nações.
Para Berton, a solução passa por educação midiática. "É essencial que as pessoas verifiquem as informações antes de acreditarem nelas ou compartilhá-las, pois o desenvolvimento de uma consciência crítica é fundamental para diminuir o impacto das fake news".
Outro ponto de atenção é o uso excessivo de ferramentas de IA por estudantes e profissionais. Embora a tecnologia traga ganhos de produtividade, há preocupação com a redução do esforço cognitivo necessário para a análise e resolução de problemas. "A dependência excessiva da IA pode prejudicar o aprendizado ativo e enfraquecer a capacidade de pensamento crítico e reflexivo", alerta a docente.