O computador está sempre certo, a menos que alguém prove o contrário

Em 2000, o direito inglês passou a presumir que o computador estava funcionando corretamente.

Não é uma paráfrase. Até aquele ano, a seção 69 do Police and Criminal Evidence Act de 1984 exigia que quem apresentasse prova produzida por computador demonstrasse que a máquina operava adequadamente. Em 1997, a Law Commission recomendou revogar o dispositivo sem colocar nada no lugar. A revogação veio na seção 60 do Youth Justice and Criminal Evidence Act de 1999, e a partir de 2000 passou a valer uma presunção de common law: o computador funcionava, salvo prova em contrário.

O ônus mudou de lado.

Quem quisesse dizer que a máquina errou passou a ter de provar — e a prova estava dentro do sistema, ao qual a pessoa não tinha acesso.

A ministra Sarah Sackman, do Ministério da Justiça britânico, resumiu essa posição em janeiro de 2025, num documento oficial, com uma franqueza incomum:

"In simple terms, 'the computer is always right', unless someone can show it is not."

Ela escrevia porque o Reino Unido havia acabado de descobrir o preço.

O que aconteceu

Os Correios britânicos operam por meio de agências geridas por contratados, os postmasters. Em 1999 e 2000 foi implantado nessas agências um sistema de contabilidade chamado Horizon, desenvolvido pela Fujitsu.

O Horizon apontava faltas de caixa que não existiam.

O inquérito público que investigou o caso estabelece que empregados dos Correios e da Fujitsu sabiam disso. Nas palavras do relatório, sobre a primeira versão do sistema:

"throughout the lifetime of Legacy Horizon, the Post Office maintained the fiction that its data was always accurate."

Entre 2000 e o outono de 2013, os Correios processaram criminalmente agentes com base nesses números, na Inglaterra e no País de Gales. Na Irlanda do Norte e na Escócia, autoridades de persecução fizeram o mesmo no período — e, ali, por alguns anos além de 2013. Em cada caso, afirmou-se, expressa ou implicitamente, que os dados do Horizon eram inteiramente confiáveis.

Sobre a quantidade de atingidos, o presidente do inquérito, Sir Wyn Williams, é deliberadamente cauteloso:

"on the evidence available to me I find it difficult to be precise about the actual number. However, it seems to me to be likely that approximately 1,000 persons were prosecuted and convicted throughout the United Kingdom during the period with which the Inquiry is concerned based on Horizon evidence."

Cerca de mil pessoas processadas e condenadas. Outras cinquenta a sessenta processadas e absolvidas — que, observa ele, não escaparam do resto. E, em outro plano, "many thousands of people" responsabilizadas contratualmente por perdas que eram ilusórias.

O relatório também registra treze pessoas cujas famílias atribuem a morte ao sistema: seis ex-agentes, informados pelos Correios ao inquérito em 18 de março de 2025, e outras sete pessoas em 27 de março. Aqui a cautela do presidente merece ser reproduzida inteira, porque ela é parte da lição:

"whilst I cannot make a definitive finding that there is a causal connection between the deaths of all 13 persons and Horizon, I do not rule it out as a real possibility. It is also possible that more than 13 persons […] died by suicide but that some deaths have not been reported."

Ele recebeu ainda depoimento de ao menos 59 pessoas que contemplaram o suicídio, das quais dez tentaram.

O mecanismo não era técnico

É tentador ler isso como uma história sobre software ruim. Software ruim existe em toda parte e quase nunca produz mil condenações.

O que transformou defeito em condenação foi uma regra processual.

Numa disputa entre a planilha e a pessoa, a lei decidiu de antemão quem começava com razão. A partir daí, cada caso individual seguiu uma lógica impecável: os números indicavam falta, os números presumiam-se corretos, a pessoa não conseguia demonstrar o contrário, logo a pessoa havia se apropriado do dinheiro.

Nenhum juiz precisou acreditar que o sistema era infalível. Bastou que a alternativa exigisse, de quem estava do outro lado do balcão, uma prova que só existia dentro da empresa que o acusava.

E aqui vale registrar a escala do esforço que foi necessário para desfazer isso. O inquérito, criado em setembro de 2020 e convertido em estatutário em junho de 2021, realizou 226 dias de audiência, ouviu 298 testemunhas e teve acesso a cerca de 274.604 documentos. O primeiro volume do relatório final saiu em 8 de julho de 2025.

Vinte e cinco anos para instalar a presunção. Cinco anos de inquérito para começar a desmontá-la.

Onde isto encosta no que já escrevi aqui

Em A delegação não avisa quando vira substituição descrevi uma assimetria que me parecia o degrau decisivo: quem contraria a recomendação automatizada precisa fundamentar, e quem a segue não precisa de nada.

Escrevi aquilo como hipótese sobre o funcionamento das instituições.

No Reino Unido, aquilo foi lei por vinte e cinco anos.

Não como metáfora e não como tendência — como regra de direito probatório, aplicada em tribunal, com sentença criminal no fim. É a demonstração mais completa que eu conheço de que a transferência de autoridade para um sistema não depende de o sistema ser inteligente, nem autônomo, nem sequer bom. Depende apenas de alguém decidir que discordar dele é ônus de quem discorda.

O Horizon era um sistema contábil dos anos 1990. Não tinha modelo, não tinha aprendizado, não tinha nada que hoje chamaríamos de inteligência artificial.

Ele não precisou.

O que está em discussão agora

Em 21 de janeiro de 2025, o Ministério da Justiça britânico abriu uma consulta pública sobre reformar essa presunção, com prazo até 15 de abril.

O documento delimita o escopo do que a reforma alcançaria, e a delimitação é o ponto que interessa a quem trabalha com Estado hoje. Estão dentro:

"evidence which is generated by software, including Artificial Intelligence and algorithms"

E, entre os exemplos, o texto cita nominalmente sistemas contábeis "such as the Horizon system used by the Post Office", software de detecção automatizada de fraude, e relatórios gerados automaticamente a partir de registros inseridos em dispositivos — o exemplo dado é o de aparelhos usados para registrar atendimentos a pacientes num hospital.

Ou seja: o país que descobriu o custo da presunção está discutindo qual deve ser a regra agora que os sistemas decidem mais, explicam menos e erram de formas mais difíceis de demonstrar.

Não é uma discussão sobre um sistema de 1999.

A pergunta brasileira, que eu não vou responder aqui

Quando um cidadão brasileiro discorda do resultado de um sistema — a triagem que indeferiu, o cruzamento que apontou inconsistência, o escore que o colocou numa fila pior —, de quem é o ônus?

Não conheço, no direito administrativo brasileiro, uma presunção de confiabilidade de sistema equivalente à que vigorou na Inglaterra. Também não conheço uma regra explícita em sentido contrário. O que se vê, na prática, é algo mais difuso: o resultado do sistema chega ao processo como dado, e não como afirmação de alguém que precise sustentá-la.

Essa diferença — entre um número que é dado e um número que é alegação — talvez seja a coisa mais importante deste texto, e é exatamente onde eu não tenho resposta pronta. É pergunta para quem estuda processo administrativo, e eu ficaria grato de ser corrigido por quem estuda.

O que dá para afirmar é mais modesto e ainda assim incômodo: onde a regra não está escrita, ela existe assim mesmo, na forma como as pessoas se comportam. Se contrariar o sistema exige justificativa por escrito e segui-lo não exige nada, uma presunção já está em vigor. Ela simplesmente não foi promulgada.

Uma última coisa, sobre como o relatório foi escrito

Vale reparar em algo que não é sobre o Horizon.

Sir Wyn Williams tinha diante de si a oportunidade de fechar uma narrativa devastadora com números redondos. Ele não fez isso. Escreveu que não consegue ser preciso sobre quantas pessoas foram condenadas. Escreveu que não pode firmar nexo causal entre as treze mortes e o sistema, e que também não descarta. Escreveu que podem ter sido mais, e que algumas mortes talvez nunca tenham sido relatadas.

Depois de 226 dias de audiência, ele preservou as suas dúvidas dentro do relatório.

É o oposto exato do que os Correios fizeram durante vinte e cinco anos, que foi afirmar certeza sobre dados que sabiam capazes de errar. E é, ao fim, a mesma competência que uma instituição precisa ter para usar qualquer sistema sem ser usada por ele: saber dizer, em voz alta e por escrito, até onde os próprios números sustentam o que se quer afirmar com eles.

---

Fontes. Todos os trechos citados vêm de dois documentos públicos: o Volume 1 do relatório final do Post Office Horizon IT Inquiry, publicado em 8 de julho de 2025 (parágrafos 1.4, 1.7, 1.9, 3.8, 3.10, 3.11, 3.12, 3.24 e 3.25), e o call for evidence The use of evidence generated by software in criminal proceedings, do Ministério da Justiça do Reino Unido, aberto em 21 de janeiro de 2025. As citações foram mantidas em inglês para que possam ser conferidas no original.