A relação entre inteligência artificial (IA) e racismo é um tema crucial na discussão sobre tecnologia e justiça racial, pois os algoritmos podem perpetuar e até intensificar preconceitos raciais existentes.

Esse problema ocorre quando sistemas de IA são produzidos, treinados e utilizados com viéses preconceituosos — muitas vezes invisíveis — que impactam negativamente não apenas a população negra, mas também indígenas e comunidades marginalizadas. Casos de falsas identificações em sistemas de segurança, exclusão de pessoas negras e indígenas em processos seletivos, ou tratamento desigual em sistemas automatizados de justiça criminal são exemplos reais das consequências do racismo algorítmico.

A solução para esses problemas exige diversidade no desenvolvimento, validação e monitoramento dos sistemas de IA. É fundamental que organizações públicas e privadas se comprometam com a criação de tecnologias mais justas, transparentes e representativas. Além disso, políticas públicas e regulamentações eficazes devem ser desenvolvidas para garantir que os avanços tecnológicos estejam alinhados à justiça social e à equidade racial.

Quando mal implementada, a inteligência artificial pode reforçar desigualdades já presentes na sociedade. Por isso, este núcleo de pesquisa visa compreender de forma crítica o desenvolvimento e a aplicação da IA e seus impactos sobre a população negra e outras comunidades vulnerabilizadas. O objetivo é contribuir para um uso ético, inclusivo e transformador da tecnologia.

Objetivos do Núcleo
O Núcleo de Pesquisa em Inteligência Artificial e Racismo tem como objetivos:

• Investigar como algoritmos e sistemas de IA reproduzem e ampliam desigualdades raciais.

• Analisar o viés algorítmico em áreas como reconhecimento facial, recrutamento e justiça criminal.

• Desenvolver diretrizes para uma IA ética e antirracista.

• Propor políticas e mecanismos de transparência e equidade no uso de tecnologias.

• Fomentar a diversidade racial na pesquisa e no desenvolvimento de soluções baseadas em IA.

• Estabelecer parcerias e projetos que promovam soluções tecnológicas mais justas e inclusivas.

Linhas de Pesquisa

Racismo Algorítmico e Discriminação em Sistemas de IA
• Estudo de como algoritmos podem perpetuar ou amplificar preconceitos raciais, como no reconhecimento facial, decisões judiciais automatizadas e análises preditivas de comportamento
• Identificação e mitigação de viés racial em conjuntos de dados usados para treinar modelos de IA
• A relação entre “neutralidade algorítmica” e a perpetuação de desigualdades raciais através da IA

Ética e Regulação da IA para Prevenção de Discriminação Racial
• Desenvolvimento de princípios éticos e regulatórios para garantir que sistemas de IA não promovam discriminação racial
• Propostas de frameworks de governança para monitorar o uso de IA em setores críticos, com foco em equidade racial
• Análise das implicações legais do uso de IA discriminatória, com ênfase nos direitos civis de minorias raciais

IA e Inclusão Digital: Acesso e Participação de Negros e Minorias
• Como a IA pode promover ou ampliar a exclusão digital e o desengajamento das populações negras no acesso a novas tecnologias
• Iniciativas de inclusão digital que incentivem a participação ativa de jovens negros no campo da IA e da programação
• Propostas para melhorar a educação e o treinamento de pessoas negras em IA e tecnologia