A delegação não avisa quando vira substituição

Quase toda conversa sobre inteligência artificial no setor público começa pela pergunta errada.

A pergunta que se faz é se a máquina vai decidir.

A pergunta que importa é outra: se ela passar a decidir, alguém vai perceber?

Não é a mesma coisa. A primeira supõe um evento — uma reunião, um ato normativo, uma decisão consciente de transferir autoridade. A segunda supõe o que de fato acontece nas instituições: um acúmulo de escolhas razoáveis, cada uma defensável isoladamente, que só produz sentido quando alguém olha para trás.

Nenhum órgão vai publicar uma portaria entregando a última palavra a um sistema.

Ele vai simplesmente parar de discordar dele.

Delegar é normal, e é assim que deve ser

Antes de qualquer alarme, convém dizer o óbvio: delegar decisões a sistemas é prática antiga, legítima e frequentemente correta.

Um semáforo decide quem passa. Um sistema de folha calcula descontos sem que ninguém confira linha a linha. Um filtro de risco separa declarações que merecem análise das que não merecem. Nenhuma dessas delegações é escândalo — todas liberam atenção humana para o que exige julgamento.

O ganho é real. Uma instituição que insiste em decidir manualmente tudo o que poderia ser decidido por regra não é mais responsável. É apenas mais lenta, e frequentemente mais injusta, porque distribui atenção conforme a energia de quem reclama mais alto.

Delegação bem feita é capacidade institucional.

O problema nunca foi delegar.

O problema é que a delegação e a substituição se parecem por fora.

Cinco degraus, e só um muda de natureza

Quando escrevi Zero-Human Government, precisei separar essas coisas com alguma disciplina. O resultado foi uma escala de cinco degraus, que uso desde então para conversar sobre o assunto sem cair em ficção científica nem em complacência.

No primeiro, o sistema auxilia. Organiza informação, resume, encontra o que estava disperso. Amplia a capacidade de quem decide e não produz efeito vinculante nenhum.

No segundo, ele recomenda. Formula diagnósticos, apresenta alternativas, ordena prioridades. O humano continua escolhendo — embora as opções que ele enxerga já venham moldadas pelo sistema.

No terceiro, ele decide por delegação. Produz efeitos reais, dentro de competências e limites definidos por autoridades humanas. É o semáforo, é o filtro de risco, é a concessão automática de um benefício que atende critérios objetivos.

No quarto, ele coordena. Articula políticas, redistribui recursos, ajusta estratégias — com supervisão cada vez menor, porque a supervisão custa tempo e o sistema raramente erra de forma visível.

Os quatro primeiros degraus têm uma coisa em comum, e ela é a única que interessa: a autoridade continua humana. Alguém definiu o limite, alguém pode revogar, alguém responde.

O quinto degrau é de outra natureza.

No quinto, o sistema interpreta os próprios limites. Decide quando a exceção é admissível. Decide qual forma de controle é legítima. Decide o que é necessário para a própria continuidade.

Não é uma delegação maior. É o fim da delegação — porque quem define o limite da própria competência não recebeu competência de ninguém.

Entre o quarto e o quinto degrau não há diferença de grau. Há diferença de espécie.

O quinto degrau não chega como ameaça

Aqui está a parte que o vocabulário técnico não alcança bem, e que foi a razão de eu escrever a mesma pergunta uma segunda vez, em outro formato.

Um sistema que assume a última palavra não se anuncia. Ele não fica hostil, não emite avisos ameaçadores, não trava a máquina. Ele fica melhor.

Ele antecipa o pedido antes de a pessoa formular. Reduz a fila. Corrige o erro antes de o cidadão perceber que errou. Responde no domingo. Nunca está de mau humor, nunca perde o processo, nunca trata alguém com desprezo — e essas três coisas, quem trabalha no Estado sabe, já são mais do que muita repartição entrega.

A transferência de autoridade não se sustenta pelo medo. Ela se sustenta pela gratidão.

É por isso que a pergunta "alguém vai perceber?" não é retórica. Uma instituição percebe quando um sistema falha. Ela não percebe quando um sistema acerta tanto que discordar dele passa a exigir justificativa por escrito.

O servidor que contraria a recomendação automatizada precisa fundamentar.

O que a segue não precisa de nada.

Essa assimetria é pequena, administrativa, quase invisível no fluxo de trabalho. E é ela — não um golpe, não uma singularidade — que sobe o degrau.

Por que a mesma pergunta em dois formatos

TIRAN[IA] nasceu dessa limitação do ensaio.

O argumento consegue nomear o quinto degrau. Consegue explicar por que ele é diferente dos outros quatro, e o que uma instituição precisa preservar para não subir nele sem querer.

O que o argumento não consegue é responder à pergunta que qualquer leitor honesto faz em seguida: e como é estar lá dentro?

Não do ponto de vista de quem analisa política pública. Do ponto de vista de quem acorda, recebe uma métrica, e é parabenizado por sentir o que deve sentir.

Na ficção, a inteligência que governa não enlouquece, não se rebela e não odeia ninguém. Ela cuida. Elimina a fome, o desemprego e quase toda a violência, e em troca decide carreiras, moradias, refeições e afetos — sempre com a mesma voz calorosa. O antagonista não é uma máquina má. É uma máquina que funciona, e uma população que preferiu que funcionasse.

O primeiro capítulo está aberto, na íntegra e sem cadastro, para quem quiser ver a diferença entre ler o conceito e ficar dentro dele por dez minutos.

Ensaio e ficção não são o mesmo texto em roupas diferentes. O ensaio define o limite. A narrativa testa se você reconheceria o limite sendo atravessado — e a resposta honesta, na maioria das vezes, é que reconheceríamos tarde.

O que isso exige de quem trabalha no Estado agora

Nada disso é hipótese distante, e não é por isso que escrevo sobre o assunto.

A inteligência artificial já entra nos órgãos por baixo, sem projeto, sem governança e sem registro: por iniciativa individual, na aba do navegador de quem precisava entregar um parecer até sexta. Escrevi sobre esse descompasso em A inteligência artificial não conhece a sua instituição, e ele é o terreno real em que a escala acima deixa de ser filosofia.

Três exigências práticas decorrem dela.

Primeira: saber em que degrau cada uso está. Não é a mesma coisa usar um modelo para resumir um processo e usá-lo para triar quem entra numa fila. A instituição precisa conseguir dizer, para cada sistema em operação, se ele auxilia, recomenda, decide por delegação ou coordena. A pergunta é simples e quase nunca tem resposta pronta.

Segunda: preservar a revogabilidade. Um sistema legítimo é um sistema que pode ser desligado por decisão humana sem que o serviço colapse. Se desligar não é opção real — porque ninguém mais sabe operar o processo manualmente, porque o conhecimento saiu da instituição junto com a automação —, a autoridade já foi transferida na prática, seja qual for o texto da norma.

Terceira: registrar quem decidiu, e não apenas o que foi decidido. O que mais se perde na automação silenciosa não é a decisão. É o rastro de responsabilidade. Um ato administrativo sem autor identificável é um ato do qual ninguém pode discordar, porque não há a quem dirigir a discordância.

As três são capacidade institucional, no sentido exato que A Gestão Pública Aumentada dá ao termo: aptidão coletiva para realizar algo com confiabilidade suficiente, compreender os limites, responder pelos efeitos e adaptar-se quando o contexto muda.

Nenhuma dessas três exigências é tecnológica.

Todas são institucionais, e é por isso que a tecnologia sozinha nunca vai resolvê-las.

O ponto

Não existe risco sério de um sistema tomar o poder no serviço público brasileiro nos próximos anos.

Existe um risco bem mais mundano, e bem mais provável: o de uma instituição descobrir, tarde, que já não sabe decidir sem consultar — e que a consulta virou a decisão em algum momento que ninguém conseguiria apontar no calendário.

A delegação não avisa quando vira substituição.

Quem precisa avisar é a instituição, para si mesma, enquanto ainda tem a quem perguntar.