Filosofia e ciência de dados: onde as duas se encontram na governança de IA

"A governança de IA praticada no Brasil costuma ser confiada ao jurídico, que sabe definir o critério e não sabe medi-lo, ou à área de dados, que mede com precisão o que não importa. O que falta não é competência de nenhum dos dois. É a tradução entre eles."

Em setembro de 2020, o art. 20 da Lei Geral de Proteção de Dados passou a assegurar ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses.

Seis anos depois, a maior parte das organizações brasileiras ainda não consegue responder ao pedido. Não por resistência jurídica. Por incapacidade técnica de explicar o que o sistema fez.

O problema não está na lei nem no modelo. Está no intervalo entre os dois — e esse intervalo tem um endereço específico, que é onde a filosofia e a ciência de dados se encontram ou falham juntas.

O que cada disciplina resolve

A ciência de dados responde a uma pergunta: o que o sistema faz. Mede acurácia, mede desempenho por subgrupo, mede deriva ao longo do tempo, mede taxa de falso positivo em cada recorte. É a camada que produz evidência.

A filosofia responde a outra: o que o sistema deveria fazer, e quem responde quando não faz. Define o que conta como dano, o que é tratamento desigual justificável, qual decisão não pode ser delegada, quem carrega a obrigação quando o resultado é ambíguo. É a camada que produz critério.

A governança de IA que se pratica hoje costuma escolher uma das duas e chamar isso de governança. O resultado tem duas formas reconhecíveis.

A primeira é o relatório de métricas sem critério: números que ninguém sabe interpretar, produzidos porque alguém pediu indicador. A segunda é a declaração de princípios sem medição: ética que não se verifica, assinada porque alguém pediu política.

Nenhuma das duas sobrevive a uma contestação real.

O ponto exato de encontro: a definição do construto

O mecanismo que une as duas disciplinas é mais concreto do que a discussão abstrata sugere, e ele aparece antes de qualquer medição.

Antes de medir, é preciso definir o que se está medindo. E essa definição é filosófica, não estatística.

Considere "justiça" em um modelo de crédito. A ciência de dados consegue medir paridade demográfica, igualdade de oportunidade e equalização de odds. São métricas distintas e matematicamente incompatíveis entre si: satisfazer uma implica violar outra. Escolher qual usar não é decisão técnica. É decisão sobre o que a instituição entende por tratamento justo, e essa decisão tem consequência distributiva verificável — muda quem recebe crédito.

O mesmo vale para "explicabilidade". Um sistema pode ser explicável no sentido de que se sabe quais variáveis pesaram, ou no sentido de que se consegue reconstruir o raciocínio contrafactual, ou no sentido de que o afetado consegue contestar a decisão. São três exigências diferentes, com esforços técnicos distintos e custos distintos.

A filosofia define o construto. A ciência de dados o operacionaliza. Sem a primeira, mede-se a coisa errada com precisão. Sem a segunda, a definição nunca sai do papel.

O que a filosofia faz que a estatística não faz

Três contribuições, todas com consequência prática imediata.

A distinção entre integridade e veracidade. Um sistema pode registrar corretamente que uma decisão foi tomada e ainda assim a decisão ser injusta. Confundir as duas produz governança que audita o log e ignora o mérito — e é o erro mais comum em auditoria de modelo.

A diferença entre causalidade e responsabilidade. Um modelo pode ser causalmente responsável por um resultado sem ser moralmente responsável por ele. Atribuir responsabilidade exige uma teoria de quem tinha obrigação de agir, e essa teoria não vem dos dados. É o que sustenta a assimetria do art. 14, § 4º, do Código de Defesa do Consumidor: responsabilidade do profissional liberal apurada por culpa, responsabilidade objetiva da pessoa jurídica.

A natureza do que não se delega. Há decisões que não podem ser transferidas a um sistema, não por limitação técnica, mas por razão normativa. Estabelecer quais são é trabalho filosófico, e é o que dá conteúdo à exigência de revisão humana.

O que a ciência de dados faz que a filosofia não faz

Também três, e são elas que separam governança de retórica.

A medição do dano por subgrupo. Um modelo com 95% de acurácia global pode ter 60% em um recorte específico. Sem medição desagregada, a média esconde a falha — e a média é sempre o número que se publica.

A detecção de deriva. Um sistema validado na implantação degrada em produção. Governança que não mede ao longo do tempo governa um sistema que já não existe.

A rastreabilidade da decisão. Saber qual versão do modelo, com qual dado de treino, produziu qual saída em qual data. É o que transforma "o sistema decidiu" em afirmação verificável.

A estrutura que a união das duas produz

Governança de IA que funciona tem uma estrutura reconhecível, e ela é sempre a mesma: definição normativa, operacionalização mensurável, medição desagregada, trilha de decisão e instância de revisão.

A filosofia ocupa o primeiro e o último elo. A ciência de dados ocupa os três do meio. E o elo que mais falha na prática é o segundo — a tradução do princípio em métrica —, porque exige as duas competências na mesma pessoa ou na mesma sala.

É por isso que a governança confiada apenas ao jurídico falha: sabe definir o construto e não sabe operacionalizá-lo. E é por isso que falha também quando confiada apenas à área de dados: mede bem o que não importa.

O que a lei brasileira já exige, e o que ela pressupõe

A estrutura não é uma proposta teórica. Ela já está pressuposta na norma vigente.

O art. 20 da LGPD exige a revisão de decisão automatizada. Para revisar, é preciso explicar. Para explicar, é preciso ter definido o construto, medido o resultado e registrado a trilha — exatamente os cinco elos.

O Mapa de Temas Prioritários da ANPD para o biênio 2026-2027 define quatro eixos de fiscalização, e o quarto é "inteligência artificial e tecnologias emergentes no contexto do tratamento de dados pessoais". A agenda existe e está em curso.

E há a camada setorial, que produz obrigação concreta antes de qualquer marco de IA. A Resolução CFM nº 2.454, de 11 de fevereiro de 2026, normatiza o uso de IA na medicina e estabelece deveres ao médico, entre eles empregar a IA como apoio à decisão clínica e comunicar ao paciente qualquer utilização. As Resoluções CNJ nº 615/2025 e 674/2026 disciplinam o uso de IA no Judiciário e a validação humana de atos classificados por ferramenta automatizada.

Nenhuma dessas normas diz como medir. Todas pressupõem que alguém mediu.

O ponto cego das duas disciplinas juntas

Aqui está a parte que a resposta técnica costuma omitir.

Um sistema pode ser filosoficamente bem fundamentado e estatisticamente impecável, e ainda assim ser ilegítimo — porque as pessoas afetadas por ele não participaram da definição do construto.

A governança que só junta filosofia e ciência de dados produz um sistema defensável perante especialistas e opaco perante o cidadão. O construto de "justiça" foi definido por quem não sofre a decisão. A métrica foi escolhida por quem não é medido por ela.

Essa lacuna é anterior à técnica e não se resolve com mais técnica. Resolve-se com desenho institucional: consulta a quem é afetado, publicação do critério, canal de contestação que funcione.

Conclusão

A governança de IA não é filosofia mais ciência de dados. É a tradução contínua entre as duas, e o elo crítico é a operacionalização do conceito normativo em métrica verificável.

A filosofia define o construto: o que é justiça, o que é explicabilidade, o que não se delega. A ciência de dados mede, desagrega e rastreia. Sem a primeira, mede-se a coisa errada com precisão. Sem a segunda, o princípio não sai do papel.

E há um limite que nenhuma das duas cruza sozinha nem em conjunto: a legitimidade. Um sistema pode ser bem fundamentado e bem medido e continuar ilegítimo se quem é afetado não participou da definição do critério.

O art. 20 da LGPD completou seis anos exigindo revisão de decisão automatizada. A pergunta que a organização deveria responder esta semana não é se tem política de IA. É se consegue explicar, com evidência, por que o sistema decidiu o que decidiu — e se a pessoa afetada consegue contestar essa explicação.

Referências

AGÊNCIA NACIONAL DE PROTEÇÃO DE DADOS. Mapa de Temas Prioritários para o biênio 2026-2027 e atualização da Agenda Regulatória 2025-2026. Brasília: ANPD, 24 dez. 2025. Disponível em: https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-publica-mapa-de-temas-prioritarios-para-o-bienio-2026-2027-e-atualiza-agenda-regulatoria-2025-2026. Acesso em: 2 nov. 2026.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais. Brasília: Presidência da República, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm. Acesso em: 2 nov. 2026.

BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Código de Defesa do Consumidor. Brasília: Presidência da República, 1990. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm. Acesso em: 2 nov. 2026.

CONSELHO FEDERAL DE MEDICINA. Resolução CFM nº 2.454, de 11 de fevereiro de 2026. Normatiza o uso da inteligência artificial na medicina. Brasília: CFM, 2026. Disponível em: https://sistemas.cfm.org.br/normas/arquivos/resolucoes/BR/2026/2454_2026.pdf. Acesso em: 2 nov. 2026.

CONSELHO NACIONAL DE JUSTIÇA. Resolução nº 615, de 2025. Dispõe sobre o uso de inteligência artificial no Poder Judiciário. Brasília: CNJ, 2025. Acesso em: 2 nov. 2026.

CONSELHO NACIONAL DE JUSTIÇA. Resolução nº 674, de 2026. Disciplina a validação humana de atos classificados por ferramenta automatizada. Brasília: CNJ, 2026. Acesso em: 2 nov. 2026.

Nadelson Costa Nogueira Júnior