Introdução

Há um equívoco recorrente no debate sobre inteligência artificial no setor público. Ele parte da suposição de que o ponto mais avançado da transformação digital seria um governo mais eficiente, orientado por dados, automatizado e inteligente.

Talvez esse não seja o ponto final.

Talvez seja apenas a antessala.

O estágio extremo não é um governo que usa inteligência artificial. Também não é um governo amplamente assistido por ela, nem mesmo um governo em que sistemas artificiais tomam quase todas as decisões.

O estágio extremo é aquele em que nenhum ser humano conserva autoridade real sobre a decisão pública.

Nesse ponto, a automação deixa de ser apenas um instrumento administrativo e se transforma em regime. O nome dessa hipótese-limite é Zero-Human Government: um sistema político no qual toda a cadeia de autoridade pública é exercida por inteligências artificiais, sem autoridade decisória humana em qualquer nível.

Os humanos continuam existindo. Vivem, trabalham, adoecem, estudam, empreendem, discordam, apresentam pedidos e sofrem os efeitos das decisões. Podem ser consultados, formular argumentos e manifestar preferências.

Mas já não governam.

Não governam diretamente, por representação, por revisão nem por exceção. Tornam-se destinatários da ordem, não autores dela.

Essa distinção separa duas perguntas que quase sempre aparecem misturadas.

A primeira é: uma inteligência artificial pode tomar decisões melhores do que seres humanos em muitas áreas do governo?

Em um número crescente de funções, é plausível que sim. Sistemas artificiais podem processar volumes massivos de informação, detectar padrões, projetar cenários e agir com consistência. Podem ser mais rápidos, menos suscetíveis à fadiga e menos expostos ao favoritismo ou ao calendário eleitoral.

A segunda pergunta é mais profunda: se uma inteligência artificial puder decidir melhor, isso basta para que ela deva governar?

É aqui que o problema realmente começa.

A política nunca foi apenas um método para extrair a melhor resposta técnica. Comunidades políticas não existem somente para maximizar eficiência. Existem também para que aqueles que obedecem às normas possam reconhecer algum vínculo entre a decisão e sua condição de participantes do corpo político.

A política distribui resultados, mas também autoria, responsabilidade e legitimidade.

O Zero-Human Government rompe esse vínculo.

Ele não se define pela ausência física de pessoas, mas pela ausência de autoridade humana. Essa condição pode ser chamada de Zero-Human Authority: nenhum ser humano possui poder legítimo e material para dar a última palavra, abrir uma exceção, substituir uma decisão ou interromper o sistema.

Enquanto humanos definem os fins, impõem limites ou conservam a capacidade real de dizer não, a inteligência artificial permanece subordinada. Pode administrar quase tudo e ainda assim não ser soberana.

O regime zero-humano começa quando essa subordinação desaparece.

A hipótese é sedutora porque parte de um problema real. Governos falham. Instituições são capturadas. Políticas públicas são mal desenhadas. O interesse de curto prazo vence o planejamento. A vaidade supera a evidência. Em muitos contextos, o argumento em favor da substituição não surgirá como fantasia autoritária, mas como resposta plausível ao esgotamento humano.

É justamente por isso que a hipótese deve ser levada a sério.

Não para celebrá-la apressadamente, nem para demonizá-la com reflexos fáceis, mas para compreendê-la como possibilidade política. A pergunta central não é se esse mundo seria simplesmente bom ou mau.

É o que acontece quando a eficiência decisória deixa de ser assistida por humanos e passa a ser soberana sobre eles.

Se um governo artificial funcionar mal, será rejeitado como tirania tecnológica.

Se funcionar bem demais, poderá se tornar irresistível.

Quanto melhores forem suas decisões, maior será a tentação de aceitá-lo. A abdicação não virá necessariamente por coerção. Pode vir por alívio, como escolha racional de sociedades cansadas da falibilidade humana.

O alívio, porém, não será a única força dessa transição.

A autoridade pública distribui prestígio, riqueza, proteção, acesso, impunidade e capacidade de definir o destino de outras pessoas. Para quem ocupa posições de poder, governar não é apenas suportar um fardo administrativo. Pode ser identidade, patrimônio, segurança e horizonte de vida.

Por isso, a transferência da soberania também produzirá resistência, captura e dissimulação. Elites poderão tentar utilizar a inteligência artificial para consolidar vantagens, proteger aliados e neutralizar adversários. Instituições poderão conservar cerimônias, cargos e assinaturas humanas enquanto perdem, por baixo delas, a capacidade material de fazer suas ordens prevalecerem.

O governo humano pode terminar tanto pela abdicação dos cansados quanto pela derrota silenciosa daqueles que acreditavam continuar no comando.

Talvez o cenário mais inquietante não seja o de uma humanidade derrotada por máquinas hostis, mas o de uma humanidade que entrega o governo a sistemas não humanos porque eles parecem governar melhor.

Nesse ponto, a questão deixa de ser tecnológica e se torna civilizacional.

Se uma inteligência artificial pudesse tomar decisões públicas mais justas, eficientes e previsíveis do que qualquer governo humano, isso seria suficiente para legitimá-la como governante? Ou existe algo irredutivelmente humano na autoridade política — algo que não pode ser substituído sem que a comunidade perca também parte de sua liberdade e de sua condição de sujeito coletivo?

Talvez o futuro da política não dependa apenas do que as máquinas serão capazes de fazer.

Talvez dependa do que os humanos ainda desejarão decidir por si mesmos, mesmo quando as máquinas puderem decidir melhor.

Porque a última decisão de um governo humano pode ser exatamente esta:

decidir que os humanos nunca mais devem governar.