Avaliação da equidade e do viés algorítmico na aplicação de IA na gestão pública: um estudo na saúde pública materna

Abstract

Este policypaper aborda o desafio da equidade em IA - garantir que modelos de IA tratem todos justamente, sem discriminação de indivíduos ou grupos de indivíduos por raça, gênero, idade ou outros atributos sensíveis. Este desafio é amplificado pelos vieses históricos e culturais presentes nos dados usados para treinar os modelos de IA. Focando na saúde pública materna em São Paulo, Brasil, o estudo buscou determinar as métricas adequadas para avaliar a equidade dos modelos preditivos, essenciais para alocar recursos e melhorar políticas baseadas em dados.