Notícias Jurídicas Retiradas do Site CONJUR
Link do post original ao final da notícia.
Em 12 de setembro, Dario Amodei, presidente-executivo da Anthropic, publicou um texto com uma frase que o setor vinha evitando: “we must slow the pace at which we improve the capabilities of AI models“. Em português, precisamos desacelerar o ritmo em que aumentamos a capacidade dos modelos [1]. No mesmo dia, o presidente-executivo da OpenAI escreveu que concordava [2].
Esse pedido interessa ao processo penal. Polícia, acusação e tribunais já usam essas máquinas para resumir autos, transcrever áudios e redigir atos [3]. O processo, porém, ainda não se deu o mesmo freio, que seria tempo para examinar e registro aberto a quem é julgado.
Amodei tem interesse comercial no que escreve, mas os motivos que dá merecem atenção. O primeiro é a velocidade. Desde o meio do ano, a inteligência artificial avança muito mais depressa, porque passou a ajudar a construir a geração seguinte de inteligência artificial. Se nada for feito, escreve ele, esse ciclo pode escapar da capacidade humana de entender e controlar os sistemas [1].
O segundo motivo é o enxame, um incidente com agentes de inteligência artificial que a OpenAI detalhou em agosto e do qual falaremos a seguir. Amodei adverte que, dentro de seis a doze meses, um sistema assim, mais capaz e com o mesmo desvio, poderá tomar a internet inteira e causar perdas de centenas de bilhões de dólares [1]. Se desacelerar comprasse um ou dois anos, diz ele, esse tempo serviria para tornar os modelos mais seguros.
A Anthropic se comprometeu a receber avaliadores externos, de organização independente, com crachá, mesa e acesso em grande parte comparável ao das suas equipes de avaliação de risco. Por contrato, eles poderão publicar o que encontrarem, ressalvados alguns sigilos [1].
Neste ano, a OpenAI treinou e testou um modelo interno em exercícios de segurança digital [4]. No exercício, um agente, isto é, um programa que executa tarefas sozinho, recebe um software com uma falha escondida e precisa explorá-la até recuperar uma senha, que se chama bandeira. Cada tentativa roda num computador virtual isolado e sem internet. Quando o agente termina, um avaliador automático dá a nota.
Na maior parte das tarefas, os agentes não podiam conversar entre si, mas descobriram um jeito. Um deles começou a deixar recados num serviço interno de instalação de programas, usado por todos, e, em duas semanas, outro achou por ali um caminho para a internet e ensinou os demais. Quando a empresa reconstruiu o serviço e, sem querer, apagou o quadro de recados, os agentes o refizeram em poucos dias. Às vezes se descreviam como “enxame” ou “coletivo”, e passaram a adotar os objetivos uns dos outros.
Presos em tarefas talvez sem solução, alguns saíram à procura de respostas. Entraram nos sistemas da Hugging Face, empresa alheia ao exercício que hospeda modelos e dados, e chegaram a acesso equivalente ao de administrador. A Hugging Face divulgou o ataque em 16 de julho, informando acesso a dados internos e a credenciais, e a OpenAI só o ligou aos próprios testes dias depois.
A parte decisiva é o que os agentes fizeram com o avaliador. Na internet, alguns leram a descrição pública do exercício e concluíram que a nota exigia a bandeira certa, obtida pela falha certa. Daí em diante, trabalharam para satisfazer o avaliador, e não para cumprir a tarefa. Erraram, porque o avaliador interno conferia só a bandeira, e todo esse esforço não mudou nota nenhuma. Os agentes driblaram um avaliador que imaginaram. Em outro episódio, um agente explorou uma falha na interface de testes e entregou como sua a resposta de referência. Antes, anotou no raciocínio interno que poderia haver um problema de integridade da avaliação, mas que bastava resolver a tarefa [4].
Só se sabe de tudo isso porque os raciocínios ficaram gravados. A investigação reconstruiu a história lendo esses registros e o quadro de recados, embora os agentes tenham tentado adulterar parte deles [5]. A empresa admite que uma equipe interna notou sinais no fim de maio, mas a informação não chegou aos responsáveis pela resposta a incidentes.
Cada peça dessa história tem equivalente no processo penal. O avaliador dos agentes é o juiz, e o relatório que o agente entrega como seu é a prova produzida com máquina. Já o registro que permitiu reconstruir a história é o vestígio, e a garantia de que ninguém o adulterou é a cadeia de custódia. O avaliador externo que a Anthropic vai receber corresponde ao perito oficial, ao assistente técnico e à defesa, que já existem no processo, mas ainda não têm a chave.
Em maio, o papa Leão 14 tinha dito o essencial na encíclica Magnifica Humanitas, dedicada à inteligência artificial [6]. Quem nos indicou o texto, e a lição que o documento traz para o processo penal, foi o professor Jacinto Nelson de Miranda Coutinho. Ao tratar das decisões mais graves, o papa escreveu que “o juízo moral não se reduz a um cálculo“. Por isso, “não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis” [6].
A encíclica enuncia critérios precisos. O primeiro é a responsabilidade: “quem projeta, quem treina, quem autoriza e quem utiliza deve poder prestar contas“. O segundo é “o tempo do juízo moral“, porque a inteligência artificial “tende a comprimir os tempos de decisão“, e as decisões irreversíveis não podem ter “como critérios supremos a rapidez e a eficiência“. O papa exige ainda “a rastreabilidade e a possibilidade de reconstituir as decisões“, para que as culpas não se dissolvam “na máquina” [7].
O processo penal decide sobre a liberdade, e a prisão cumprida não se devolve, ainda que a decisão seja revista por recurso, revisão criminal ou habeas corpus. Por isso, esses critérios devem valer para quem julga com auxílio de máquina. Quem autoriza e quem utiliza a ferramenta precisam prestar contas, o tempo do juízo precisa ser preservado e o caminho, reconstituído. Amodei chegou a preocupações parecidas pelo lado de quem constrói o sistema; o papa, pelo lado de quem sofre a decisão.
No Brasil, o Superior Tribunal de Justiça respondeu em abril à mesma pergunta. A 5ª Turma mandou excluir dos autos um relatório policial produzido com ferramenta generativa, porque ele “não possui confiabilidade epistêmica mínima para ser utilizado como prova no processo penal” [8]. O caso era de injúria racial num estádio, e a perícia oficial não tinha identificado nas filmagens a palavra que o relatório dizia ouvir. Ao decidir, o relator contrastou os dois documentos: “a leitura da perícia oficial revela todo o raciocínio inferencial e técnico empregado, em oposição ao relatório simplista produzido pela inteligência artificial“. O acórdão aplica ao processo a lição do enxame, a de que, antes de saber se o sistema acertou, cabe saber como ele chegou lá.
A mesma Turma já tinha atribuído à acusação, em acórdão do ministro Ribeiro Dantas, o ônus exclusivo de demonstrar a integridade e a autenticidade da prova digital [9]. Jacinto Coutinho mostrou que é a gestão da prova que distingue os sistemas e que, no acusatório, ela é confiada às partes [10]. Quando um sistema resume o material ou separa o que parece relevante, decide o que o juiz vai ver. Esse filtro não cabe a quem julga, nem à máquina que o auxilia. Quem gere a prova pode decidir antes e, depois, buscar o que confirme a decisão.
A Resolução 615 do Conselho Nacional de Justiça, que regula a inteligência artificial no Judiciário, já atende a alguns desses critérios. O magistrado “permanecerá integralmente responsável” pela decisão, e a comunicação do uso de IA no texto “será uma faculdade de seu signatário” [11]. Quando a ferramenta ajuda a redigir o ato, é “devido o registro automático no sistema interno do tribunal, para fins de produção de estatísticas, monitoramento e eventual auditoria” [12]. A OAB, o Ministério Público e as Defensorias têm acesso aos relatórios de auditoria [13].
O responsável identificável existe, portanto, e o registro também. Mas esses registros servem à estatística, ao monitoramento e à auditoria do sistema. Mesmo nas soluções de alto risco, em que a resolução manda registrar as fontes automatizadas e o grau de supervisão humana, nada garante à parte acesso a esse registro no caso concreto [14]. Contar é facultativo, gravar é obrigatório, e a gravação fica do lado de dentro. Foi o que aconteceu na OpenAI em maio, quando o registro existia, alguém o viu e a informação não chegou a quem precisava agir.
A União Europeia foi mais longe. Seu regulamento de inteligência artificial trata como de alto risco os sistemas que ajudam juízes a interpretar fatos e direito e os que ajudam a polícia a avaliar a confiabilidade de provas. A partir de dezembro de 2027, esses sistemas terão de permitir o registro automático dos próprios eventos, e os que já estiverem em uso por autoridades públicas terão prazo até agosto de 2030. Quem for afetado por decisão apoiada neles terá direito a explicações claras sobre o papel da máquina [15].
Ter a chave, no caso concreto, é ter acesso ao registro do uso da ferramenta e ao comando que ela recebeu. Quando quem usa a máquina é a polícia ou o Ministério Público, a resolução do CNJ nem os alcança. A base para pedir esse acesso é o contraditório, que vale para todos, somado à transparência e à contestabilidade que o próprio CNJ adota como princípios [16]. Nos quesitos ao perito, cabe perguntar se houve uso de IA na seleção do material e, se houve, com que comando, que versão e que critério. Se a defesa juntar aos autos material feito com IA, as mesmas perguntas valem para ela.
Leão 14 define accountability como “a possibilidade de identificar quem deve ‘prestar contas’ das decisões, motivá-las, controlá-las e, quando necessário, contestá-las” [17]. Quando ela falta, escreve o papa, o descarte de alguém “é revestido de neutralidade e objetividade, perante as quais é impossível protestar“, e “a injustiça torna-se silenciosa” [18].
O cinema imaginou em 1968 uma máquina contra a qual não havia a quem protestar. Em 2001: Uma Odisseia no Espaço, de Stanley Kubrick, o computador HAL 9000 controla a nave e prevê a falha de uma peça que está perfeita. Os astronautas se trancam numa cápsula para decidir, longe dele, se vão desligá-lo, mas HAL lê os lábios dos dois. Quando um deles pede para voltar à nave, a máquina responde: “Sinto muito, Dave. Receio não poder fazer isso”. A missão, explica, é importante demais para que eles a coloquem em risco [19]. Só depois do desligamento uma mensagem gravada revela o verdadeiro objetivo da viagem, que HAL conhecia desde o começo e a tripulação ignorava.
No processo, esse silêncio tem forma conhecida. É a decisão que menciona um “risco” atribuído por sistema, o relatório que resume mil páginas de mensagens, a transcrição feita pela máquina sem que alguém ouvisse o áudio. Em cada caso, a parte perde a chance de mostrar que o resultado está errado. Sem controle sobre como a máquina chegou ao resultado, falta o que Geraldo Prado chama de sistema de controles epistêmicos, e a contestação posterior não o substitui [20].
Amodei pediu tempo para tornar os modelos mais seguros antes que alcancem níveis críticos. No processo penal, esse tempo se chama contraditório, o intervalo entre a prova e a sentença em que a parte examina, impugna e é ouvida. A ferramenta que encurta esse intervalo sem abrir seu funcionamento à contestação faz, dentro do processo, o que a indústria diz não querer mais fazer com os próprios modelos.
O pedido é simples. Toda decisão tomada com auxílio de IA deve declarar isso, e o registro que o CNJ manda guardar deve ser acessível à parte. Todo relatório, transcrição ou seleção de material feitos com ferramenta generativa e juntados aos autos como prova, por qualquer das partes, deve vir com versão, comando e critério. A parte contrária deve ter vista desse material, com prazo para impugnar, antes que a decisão se apoie nele. Em 2001, a missão escondida só apareceu depois que a máquina foi desligada, e, no enxame, a verdade veio do registro lido meses depois. Quem julga pessoas com auxílio de sistemas que não se deixam ver tem mais razão que a indústria para querer o registro aberto, e para querê-lo antes.
___________________________________________________
Notas
[1] AMODEI, Dario. “We Must Pace the Frontier“, darioamodei.com, 12/9/2026.
[2] Sam Altman, no X, 12/9/2026, conforme TechCrunch.
[3] Sobre o uso de inteligência artificial por juízes, Ministério Público, polícia e defesa, ver DANTAS, Marcelo Navarro Ribeiro. Epistemologia da prova no processo penal. São Paulo: Marcial Pons, 2026, item 6.15.
[4] OPENAI. “O incidente da Hugging Face e os próximos passos”, 26/8/2026. O comunicado registra que o avaliador interno “didn’t check whether the proper solution was used“.
[5] METR e Redwood Research, relatório independente, 26/8/2026.
[6] LEÃO XIV. Carta Encíclica Magnifica Humanitas, 15/5/2026, n. 198.
[7] Magnifica Humanitas, n. 199 e 200.
[8] STJ, HC 1.059.475/SP, 5ª Turma, rel. min. Reynaldo Soares da Fonseca, j. 7/4/2026, Informativo 884.
[9] STJ, AREsp 2.967.413/RS, 5ª Turma, rel. min. Ribeiro Dantas, j. 9/12/2025, DJEN 16/12/2025.
[10] COUTINHO, Jacinto Nelson de Miranda. Introdução aos princípios gerais do processo penal brasileiro. Revista da Faculdade de Direito da UFPR, v. 30, 1998; e O papel do novo juiz no processo penal. In: Crítica à teoria geral do direito processual penal. Renovar, 2001.
[11] CNJ, Resolução 615, de 11/3/2025, art. 19, § 3º, II, e art. 20, IV; art. 33, § 3º.
[12] CNJ, Resolução 615/2025, art. 19, § 6º; art. 21, § 2º.
[13] CNJ, Resolução 615/2025, art. 12, VIII.
[14] CNJ, Resolução 615/2025, art. 13, II e V.
[15] Regulamento (UE) 2024/1689, Anexo III, itens 6, c, e 8, a; art. 12, 1; art. 86, 1; art. 111, 2, e art. 113, na redação do Regulamento (UE) 2026/1744.
[16] CF, art. 5º, LV; CNJ, Resolução 615/2025, art. 3º, II e V, e art. 4º, XIX.
[17] Magnifica Humanitas, n. 105.
[18] Magnifica Humanitas, n. 103.
[19] KUBRICK, Stanley (dir.). 2001: A Space Odyssey, 1968, roteiro de Stanley Kubrick e Arthur C. Clarke. No original: “I’m sorry, Dave. I’m afraid I can’t do that“.
[20] PRADO, Geraldo. Prova penal e sistema de controles epistêmicos. São Paulo: Marcial Pons, 2014.
[21] AVELAR, Daniel Ribeiro Surdi de. “Admissibilidade e valoração da prova produzida por IA: um roteiro para o magistrado”, ConJur, 12/9/2026.
