Quando o algoritmo erra, quem responde? A responsabilidade civil das empresas por decisões tomadas por inteligência artificial

Sistemas de inteligência artificial já decidem, sozinhos ou quase sozinhos, uma quantidade crescente de questões que antes passavam pelas mãos de um gerente, um analista ou um recrutador. Aprovação de crédito, precificação dinâmica, triagem de currículos, detecção de fraude, atendimento ao cliente e até rescisão de contratos vêm sendo automatizados por empresas de todos os portes, movidas pela promessa de ganho de eficiência e redução de custo operacional. O problema surge quando esses sistemas erram, discriminam ou causam prejuízo a um cliente, funcionário ou fornecedor. Nesse momento, a pergunta que chega ao jurídico da empresa é direta: quem responde pelo que a máquina decidiu?

A resposta, no ordenamento brasileiro, é praticamente sempre a mesma: a empresa. O algoritmo não tem personalidade jurídica, não pode ser réu em processo e não assina contrato. Ele é uma ferramenta, por mais sofisticada que seja, e quem a utiliza como parte de sua atividade econômica responde pelos efeitos de seu funcionamento perante terceiros. Essa lógica, que parece simples, esconde uma série de nuances sobre o tipo de responsabilidade aplicável, o ônus da prova e as defesas disponíveis, que todo gestor deveria conhecer antes de delegar decisões sensíveis a um sistema automatizado.

Responsabilidade objetiva: o risco da atividade recai sobre quem a explora

O Código Civil, no artigo 927, parágrafo único, estabelece que há obrigação de reparar o dano, independentemente de culpa, quando a atividade normalmente desenvolvida pelo autor do dano implicar, por sua natureza, risco para os direitos de outrem. Empresas que adotam IA em processos decisórios de massa, como concessão de crédito ou seleção de pessoal, dificilmente conseguem argumentar que essa atividade é isenta de risco. Pelo contrário, a própria lógica da automação em larga escala pressupõe que erros sistêmicos, quando ocorrem, afetam um número expressivo de pessoas de uma só vez, o que reforça o enquadramento na teoria do risco.

Quando a relação envolve consumidor, a situação é ainda mais rígida para a empresa. O Código de Defesa do Consumidor, nos artigos 12 e 14, impõe responsabilidade objetiva ao fornecedor por defeito do produto ou do serviço, dispensando a discussão sobre culpa. Se um sistema de recomendação induz o consumidor a erro, se um chatbot fornece informação equivocada que gera prejuízo, ou se um algoritmo de precificação pratica discriminação de preço sem justificativa técnica, a empresa fornecedora responde independentemente de provar que agiu com negligência. A alegação de que a decisão foi tomada por uma inteligência artificial, e não por um ser humano, não afasta essa responsabilidade, apenas desloca a discussão para outro ponto: a empresa tinha meios de prever e evitar o dano ao desenhar, treinar ou contratar aquele sistema.

O que a LGPD exige quando a decisão é automatizada

A Lei Geral de Proteção de Dados Pessoais, Lei 13.709 de 2018, trata especificamente do tema no artigo 20, ao garantir ao titular de dados o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, quando tais decisões afetarem seus interesses. Isso inclui decisões relacionadas a perfil pessoal, profissional, de consumo e de crédito, ou a aspectos de personalidade. Na prática, significa que uma empresa que nega um financiamento, recusa uma contratação ou encerra uma conta com base exclusiva em score calculado por algoritmo precisa estar preparada para explicar, de forma clara e acessível, os critérios gerais que levaram àquela decisão, caso o titular solicite.

Essa obrigação de explicabilidade esbarra num problema técnico conhecido como caixa preta algorítmica: muitos modelos de aprendizado de máquina, especialmente os baseados em redes neurais profundas, não permitem uma explicação simples e linear de por que chegaram a determinado resultado. Isso não exime a empresa do dever legal. Pelo contrário, reforça a necessidade de adotar, desde a fase de desenvolvimento ou contratação do sistema, modelos que permitam algum grau de interpretabilidade, ou ao menos de documentar os critérios, variáveis e pesos utilizados no treinamento, de forma que seja possível reconstruir a lógica da decisão quando exigido pela Autoridade Nacional de Proteção de Dados ou pelo Poder Judiciário.

O avanço do marco regulatório de inteligência artificial no Brasil

Tramita no Congresso Nacional um projeto de lei específico para regular o uso de inteligência artificial no país, com origem em proposta elaborada por comissão de juristas e já aprovada em uma das casas legislativas. A proposta classifica sistemas de IA por nível de risco, estabelece obrigações mais rígidas para os classificados como de alto risco, categoria em que normalmente se enquadram sistemas usados em recrutamento, concessão de crédito, pontuação de crédito, seguros e avaliação de desempenho de trabalhadores, e prevê expressamente a responsabilidade civil do fornecedor e do operador do sistema por danos causados.

Mesmo antes da conversão definitiva em lei, esse movimento regulatório já sinaliza a direção que tribunais e órgãos de fiscalização tendem a adotar na interpretação de casos envolvendo IA: quanto maior o potencial de impacto da decisão automatizada sobre direitos de pessoas físicas, maior o padrão de diligência exigido da empresa que a implementa. Gestores que esperam a lei entrar em vigor para só então se preocupar com compliance de IA correm o risco de serem surpreendidos por decisões judiciais que já aplicam esses parâmetros com base nos princípios gerais de responsabilidade civil e proteção de dados já vigentes.

Viés algorítmico e discriminação: um risco jurídico concreto, não hipotético

Um dos riscos mais documentados em sistemas de IA aplicados a decisões sobre pessoas é a reprodução e, em alguns casos, amplificação de vieses presentes nos dados históricos usados para treinar o modelo. Um sistema de triagem de currículos treinado com dados de contratações passadas de uma empresa que historicamente privilegiou determinado perfil de candidato tende a reproduzir esse padrão, ainda que nenhuma linha de código mencione explicitamente gênero, raça ou idade. O mesmo vale para modelos de concessão de crédito que usam como variável indireta o código postal do solicitante, reproduzindo segregação socioeconômica de forma velada.

Esse tipo de discriminação algorítmica indireta já é objeto de atenção crescente da Justiça do Trabalho e dos órgãos de defesa do consumidor, e pode configurar ato discriminatório sujeito a reparação por dano moral coletivo ou individual, além de questionamento pelo Ministério Público do Trabalho ou por órgãos de defesa da concorrência, dependendo do setor. A empresa que terceiriza a decisão para um fornecedor de tecnologia não se livra da responsabilidade perante o prejudicado: pode, no máximo, buscar ressarcimento regressivo contra o fornecedor do sistema, desde que o contrato de licenciamento preveja cláusulas claras de responsabilidade e garantia quanto à ausência de viés discriminatório comprovável.

Governança algorítmica como medida de proteção jurídica e reputacional</br>

A forma mais eficaz de reduzir exposição jurídica nessa área não é evitar o uso de inteligência artificial, mas estruturar processos internos de governança que documentem como cada sistema foi escolhido, testado e monitorado. Isso envolve manter registro das versões do modelo utilizado, dos critérios e bases de dados empregados no treinamento, de testes de auditoria contra viés discriminatório realizados periodicamente, e da existência de um canal efetivo de revisão humana para decisões que afetem significativamente direitos de clientes ou trabalhadores, mecanismo conhecido como human in the loop.

Contratos com fornecedores de soluções de IA também merecem atenção redobrada. Cláusulas que definem responsabilidade por falhas do sistema, obrigação de auditoria, garantias quanto à qualidade dos dados de treinamento e níveis de serviço para correção de erros detectados reduzem significativamente o risco de a empresa contratante arcar sozinha com indenizações decorrentes de falha que, tecnicamente, se originou no produto do fornecedor. A ausência dessas cláusulas, infelizmente ainda comum em contratos de licenciamento de software padronizados, deixa a empresa usuária exposta a reivindicações de terceiros sem qualquer respaldo contratual para repassar o custo ao verdadeiro responsável técnico pela falha.

A adoção de inteligência artificial em processos decisórios empresariais não é, e não deveria ser tratada como, uma escolha meramente técnica de tecnologia da informação. Trata-se de uma decisão estratégica com implicações diretas em responsabilidade civil, proteção de dados pessoais, direito do trabalho e direito do consumidor, que exige envolvimento do jurídico desde a concepção do projeto, não apenas quando o primeiro processo judicial chega à mesa da diretoria. Empresas que tratam a conformidade legal como etapa posterior à implementação tendem a descobrir, tarde demais, que o custo de corrigir um sistema já em operação é muito maior do que o de desenhá-lo corretamente desde o início, com acompanhamento jurídico adequado às particularidades de cada setor e tipo de decisão automatizada.