Aumento de denúncias de racismo algorítmico preocupa MP

MP investiga racismo em algoritmos usados por empresas

O Ministério Público Federal (MPF) e diversos Ministérios Públicos Estaduais (MPEs) estão investigando um crescente número de denúncias de discriminação racial em sistemas de inteligência artificial (IA) utilizados por empresas em diversos setores, desde recrutamento e seleção até concessão de crédito e segurança pública. As denúncias apontam para o chamado “racismo algorítmico”, onde algoritmos, treinados com dados históricos enviesados, perpetuam e até mesmo amplificam desigualdades raciais.

“Estamos diante de um problema complexo que exige uma atuação coordenada e multidisciplinar”, afirma a procuradora-chefe da Procuradoria Regional dos Direitos do Cidadão (PRDC), Ana Paula Freitas. “É fundamental investigar a fundo como esses algoritmos estão sendo desenvolvidos e utilizados, e garantir que não estejam reproduzindo ou exacerbando preconceitos raciais.”

Impacto na vida dos cidadãos

Os impactos do racismo algorítmico podem ser devastadores para as vítimas. Em processos seletivos, candidatos negros podem ser injustamente descartados por sistemas que priorizam perfis considerados “ideais” com base em dados históricos que refletem a desigualdade racial no mercado de trabalho. Na concessão de crédito, famílias negras podem ter seus pedidos negados com base em algoritmos que atribuem maior risco de inadimplência a determinados grupos raciais. E na área de segurança pública, sistemas de reconhecimento facial com baixa precisão podem levar a prisões injustas e abordagens policiais discriminatórias.

Regulamentação e auditoria são urgentes

Especialistas em direito digital e inteligência artificial alertam para a urgência de regulamentação e auditoria dos algoritmos utilizados por empresas. “É preciso estabelecer critérios claros e transparentes para o desenvolvimento e a utilização de sistemas de IA, e garantir que sejam submetidos a auditorias independentes para verificar se estão em conformidade com os princípios da igualdade e da não discriminação”, defende o professor de direito da tecnologia, Ricardo Alves.

• Regulamentação: Criação de leis específicas para o uso de IA.
• Auditoria: Avaliação independente da imparcialidade dos algoritmos.
• Transparência: Divulgação dos critérios de decisão dos sistemas.
• Reparação: Mecanismos para compensar vítimas de discriminação algorítmica.

O MPF e os MPEs estão trabalhando em conjunto para desenvolver estratégias de investigação e atuação que permitam combater o racismo algorítmico e garantir a proteção dos direitos da população negra. A expectativa é que as investigações em curso resultem em ações judiciais e administrativas que obriguem as empresas a adotar medidas para mitigar os riscos de discriminação racial em seus sistemas de IA.