Ética, Viés & Regulação

Uma crença comum: 'algoritmos são objetivos porque são matemática'. É uma das ideias mais perigosas sobre IA. Algoritmos refletem as escolhas de quem os construiu — quais dados usar, qual métrica otimizar, quais erros tolerar.

Um algoritmo que otimiza para 'maximizar lucro' vai sistematicamente priorizar consumidores de maior renda. Um algoritmo que 'minimiza custos de saúde' pode recomendar menos cuidados preventivos para populações marginalizadas. As escolhas de design têm consequências políticas.

Quem decide quais erros são aceitáveis?

Todo modelo comete erros. A pergunta é: quais erros? Um erro de diagnóstico que afeta desproporcionalmente a população negra é diferente de um erro aleatório. As escolhas sobre tolerância a erros são escolhas éticas, não apenas técnicas.

Viés algorítmico não é um único problema — são muitos tipos diferentes, que surgem em momentos distintos do ciclo de vida do modelo.

Viés de dados históricos

Os dados refletem discriminações passadas. Um modelo de contratação treinado em dados históricos onde poucas mulheres eram contratadas para cargos técnicos vai perpetuar essa tendência.

Viés de representação

Alguns grupos estão sub-representados nos dados. Sistemas de reconhecimento facial treinados principalmente em rostos brancos têm taxa de erro muito maior em rostos negros.

Viés de medição

A variável que estamos medindo pode ser enviesada. 'Prisões anteriores' como proxy de risco criminal é viesada se a polícia patrulhou mais intensamente bairros pobres e negros.

Viés de feedback

O modelo toma decisões que moldam os dados futuros. Se um algoritmo de crédito nega empréstimos para moradores da periferia, os dados futuros mostrarão 'menos inadimplência' nessa população — não porque sejam melhores pagadores, mas porque nunca receberam crédito.

A Lei Geral de Proteção de Dados (Lei 13.709/2018) é totalmente aplicável a sistemas de IA que processam dados pessoais — o que inclui a maioria dos sistemas de IA de negócio.

Princípios LGPD relevantes para IA

• Finalidade: dados coletados para X não podem ser usados para treinar IA para Y sem nova base legal
• Necessidade: use apenas os dados mínimos necessários
• Transparência: o titular tem direito de saber que IA processa seus dados
• Não discriminação: a LGPD proíbe uso de dados para discriminação ilícita
• Responsabilização: quem desenvolveu e quem usa a IA são corresponsáveis

Decisões automatizadas e o direito à explicação

O artigo 20 da LGPD garante ao titular o direito de solicitar revisão de decisões tomadas unicamente por meios automatizados. O controlador deve fornecer critérios e procedimentos claros da decisão.

IA responsável não é apenas sobre evitar danos — é sobre construir sistemas que criam valor de forma justa, transparente e sustentável. Principais frameworks internacionais (OCDE, UE, IEEE) convergem em princípios similares.

Os seis princípios de IA responsável

• Justiça: não discriminar grupos protegidos e tratar todos equitativamente
• Confiabilidade: funcionar corretamente e de forma consistente
• Privacidade e segurança: proteger dados pessoais por design
• Inclusão: ser acessível e útil para populações diversas
• Transparência: explicar como funciona e quais dados usa
• Responsabilização: ter humanos responsáveis pelas decisões e impactos

Ferramentas práticas

• Cards de modelo (Model Cards): documentação padronizada de como o modelo funciona e seus limites
• Folhas de dados (Datasheets for Datasets): documentação de origem, limitações e vieses dos dados
• Avaliação de Impacto Algorítmico: análise sistemática de riscos antes do deploy
• Auditorias de equidade: testes regulares de disparidade por grupo