Em um país onde 54% da população é preta ou parda (IBGE, 2022), e onde as desigualdades raciais são históricas e documentadas, algoritmos de crédito que reproduzem essas desigualdades não são apenas um problema técnico — são um problema de justiça social.
O que é viés algorítmico?
Viés algorítmico ocorre quando um modelo de IA toma decisões sistematicamente desfavoráveis para determinados grupos — por raça, gênero, região, renda — mesmo sem ter sido programado explicitamente para isso. O problema está nos dados usados para treinar o modelo.
Se historicamente pessoas negras receberam menos crédito (por discriminação humana), os dados históricos registram isso como 'padrão'. O algoritmo aprende que pessoas negras são 'mau pagador' — não por comportamento real, mas por herança discriminatória dos dados.
Casos documentados no Brasil
Pesquisadores da USP e da FGV têm documentado casos em que sistemas de score de crédito apresentam disparidade racial significativa. Numa análise de 2024, solicitantes com nomes tipicamente afro-brasileiros receberam scores menores em média — mesmo com histórico financeiro idêntico a solicitantes com nomes de outras origens.
O problema vai além do nome: CEP e endereço são variáveis comuns em modelos de crédito. Como a segregação residencial no Brasil é racialmente estratificada, usar CEP pode introduzir viés racial indiretamente — sem nunca mencionar raça.
As variáveis proxy
Variáveis proxy são dados que parecem neutros mas funcionam como substitutos para raça ou classe. No contexto brasileiro, algumas variáveis proxy comuns são:
- CEP e bairro de residência (reflexo de segregação racial histórica)
- Tipo de escola frequentada (pública vs. privada)
- Profissão ou cargo (setores com menor diversidade racial)
- Banco principal (bancos com menos agências em periferias)
O que diz a lei
A LGPD (Lei 13.709/2018) classifica dados sobre raça e etnia como dados sensíveis, com proteção reforçada. O Código de Defesa do Consumidor proíbe discriminação no fornecimento de produtos e serviços. E o PL 2338/2023 (Marco Legal da IA) classifica sistemas de scoring de crédito como de alto risco.
Como corrigir o viés?
Não existe solução perfeita, mas há práticas que reduzem o viés:
- Auditorias regulares de equidade — comparar aprovação/negação por grupo racial
- Remover ou compensar variáveis proxy com alto impacto racial
- Diversificar a equipe que desenvolve e avalia os modelos
- Publicar relatórios de impacto de IA com recorte racial
- Criar canais de contestação acessíveis para o consumidor
"Não basta a IA ser cega à raça — ela precisa ser justa para todos os grupos raciais. Cegueira de cor em dados históricamente enviesados perpetua a discriminação, não a elimina."
— Pesquisadores do Laboratório de Viés em IA — USP
O que você pode fazer
Se você acredita ter sido discriminado por um sistema de crédito, pode acionar o PROCON, o Banco Central (para produtos financeiros) ou o SENACON. O Marco Legal da IA, quando aprovado, criará obrigações específicas de auditoria para esses sistemas.