Notícias Jurídicas Retiradas do Site CONJUR
Link do post original ao final da notícia.
Essa diferença importa. Um político disputa votos, enfrenta a oposição e presta contas de seus atos. Quem controla uma grande plataforma digital não precisa de nada disso.
Ele pode alterar critérios de recomendação, reduzir equipes de moderação, restabelecer contas suspensas, favorecer determinados conteúdos e, de um dia para o outro, remodelar as condições de visibilidade do discurso público. Poucas pessoas sabem quando essas mudanças ocorrem, por que foram adotadas ou a quem beneficiaram. O controle da infraestrutura confere ao proprietário uma capacidade de intervenção política que não decorre do voto e que os freios institucionais mal alcançam.
O episódio oferece uma imagem do tecnofascismo contemporâneo. A expressão exige cautela, pois a banalização da palavra “fascismo” enfraquece sua utilidade histórica e analítica. Ainda assim, há fenômenos novos que as categorias tradicionais descrevem apenas em parte. Quando o controle de tecnologias essenciais se combina com a concentração de poder, a rejeição das mediações democráticas e um projeto político hostil ao pluralismo, a técnica deixa de funcionar apenas como instrumento. Ela se converte em uma forma de governo sobre a sociedade.
O conceito perde precisão quando empregado para designar qualquer abuso tecnológico. Convém reservá-lo à presença simultânea de três elementos. O primeiro consiste no domínio concentrado de infraestruturas capazes de organizar a informação, formar crenças e influenciar decisões coletivas. O segundo aparece quando seus controladores exercem esse poder de forma opaca, substituindo procedimentos públicos e contestáveis por decisões privadas ou tecnocráticas. O terceiro requer uma orientação política reconhecivelmente autoritária, fundada na exclusão do diferente, no personalismo, na mobilização do ressentimento e na redução dos limites impostos pelos direitos fundamentais. Sem essa orientação autoritária, a concentração tecnológica e a opacidade decisória podem configurar tecnocracia ou capitalismo de vigilância, mas não tecnofascismo.
Essa delimitação explica por que o tecnofascismo não constitui um regime formal e tampouco depende do fechamento do Congresso, da extinção dos partidos ou da censura oficial. Ele pode avançar no interior de democracias que preservam eleições e tribunais, enquanto transfere decisões centrais sobre a vida pública a agentes que não receberam mandato popular.
Esse poder resulta de cinco fatores que se reforçam mutuamente. A economia da atenção recompensa conteúdos que provocam medo, indignação e raiva; a extração contínua de dados permite inferir vulnerabilidades e preferências individuais; os algoritmos ordenam a visibilidade dos conteúdos e, ao privilegiarem o engajamento, tendem a favorecer a radicalização discursiva; a opacidade impede que usuários e pesquisadores compreendam esses critérios; a concentração econômica reúne todas essas capacidades nas mãos de poucas corporações.
A retórica da liberdade de expressão desempenha um papel central nessa dinâmica. Proprietários de plataformas invocam a liberdade para rejeitar regulação, auditoria e deveres de cuidado, ao mesmo tempo em que exercem controle cotidiano sobre o alcance das manifestações. A liberdade de expressão não confere imunidade constitucional a um modelo de negócios, e a proteção do discurso exige atenção às condições concretas de sua circulação: a possibilidade de contestar a moderação, conhecer os critérios de recomendação e identificar tratamentos discriminatórios.
A inteligência artificial amplia o problema. Modelos de IA começam a mediar a busca por informações, a produção de textos e imagens, a programação de sistemas, a seleção de candidatos a emprego, a análise de riscos e a prestação de serviços públicos. Agentes de IA poderão agir em nome de pessoas e organizações, tomar providências e organizar fluxos de trabalho. À medida que essa mediação se torna habitual, as empresas que treinam e controlam os modelos passam a decidir o que pode ser conhecido, criado, recomendado e feito.
Esse poder possui uma dimensão informacional e outra operacional. Na primeira, modelos podem reproduzir vieses e personalizar a persuasão em larga escala. Na segunda, podem integrar sistemas de vigilância e policiamento: a mesma tecnologia que auxilia uma pesquisa pode classificar populações, cruzar bancos de dados, sugerir alvos ou automatizar decisões com efeitos sobre a liberdade e a vida. O risco democrático nasce tanto do uso abusivo pelo Estado quanto da posição das empresas que definem as salvaguardas e controlam o acesso às capacidades mais avançadas.
Em março, uma juíza federal suspendeu liminarmente essas medidas e, em agosto, ao julgar o mérito, declarou-as ilegais e retaliatórias. A decisão afastou as sanções, sem obrigar o Pentágono a retomar o uso do Claude nem definir quais salvaguardas devem limitar o uso estatal da IA.
O episódio revela como a possibilidade de trocar de fornecedor, somada a sanções administrativas, pode pressionar empresas a afrouxar salvaguardas contra usos da IA que ameacem direitos fundamentais. A proteção desses direitos exige normas que vinculem o Estado e os fornecedores de IA, independentemente dos termos contratuais e da capacidade de cada empresa de resistir à pressão governamental.
Grande parte do debate jurídico brasileiro sobre plataformas ainda se concentra na remoção de conteúdos e na responsabilidade civil por publicações de terceiros. Essas questões permanecem relevantes, mas abordam apenas a camada mais visível do problema. O tecnofascismo opera na arquitetura: critérios de recomendação, desenho de interfaces, coleta de dados, acesso privilegiado a capacidades de IA, contratos públicos e decisões automatizadas. Uma política regulatória limitada ao conteúdo ilícito pode deixar intacta a estrutura que recompensa a radicalização, permite a vigilância e concentra poder político.
A resposta jurídica precisa atuar em cinco frentes. A transparência qualificada supõe acesso de pesquisadores aos dados, auditorias independentes e explicações sobre mudanças relevantes nos sistemas de recomendação. Garantias procedimentais para usuários e grupos atingidos devem incluir motivação, possibilidade de recurso e proteção contra tratamento discriminatório. Também importa a proteção de dados contra perfis políticos e inferências sensíveis, pois o poder se exerce igualmente sobre o que os sistemas deduzem a respeito dos indivíduos. Conter a concentração econômica supõe direito concorrencial, interoperabilidade entre plataformas e incentivo a infraestruturas públicas, abertas ou comunitárias. Por fim, o uso estatal da inteligência artificial exige mecanismos de controle: avaliação de impacto, supervisão humana, registro, auditoria externa e proibição de usos incompatíveis com a dignidade humana e o Estado de direito.
Regular esse poder exige cuidado para proteger a inovação, a liberdade de expressão e a segurança jurídica. O cuidado começa pela identificação do objeto. O Estado não deve escolher quais opiniões são aceitáveis, nem transformar o combate à desinformação em licença para censura. Cabe-lhe estabelecer condições de transparência, contestabilidade, igualdade e responsabilidade para quem controla infraestruturas essenciais.
O tecnofascismo prospera com a crença perigosa de que eficiência técnica produz legitimidade política. Uma decisão pode ser rápida, precisa segundo determinada métrica e economicamente vantajosa, sem se tornar justa ou democrática. A legitimidade democrática nasce de procedimentos públicos, participação, direitos, possibilidade de contestação e responsabilidade. Nenhuma taxa de acerto ou de eficiência substitui esses requisitos.
A pergunta decisiva sobre a inteligência artificial, portanto, não é se as máquinas conseguirão pensar como seres humanos, mas quem definirá os fins de seu uso, quais valores e regras serão incorporados aos sistemas, quem poderá auditar e contestar seus resultados e quais instituições terão autoridade para suspender usos abusivos. Enquanto essas escolhas permanecerem concentradas em poucas empresas, a democracia dependerá de poderes que não elegeu e cujo funcionamento mal conhece.
Conter a deriva tecnofascista exige submeter a técnica, o capital e o Estado a limites democráticos. Essa tarefa pressupõe regulação, fiscalização, imprensa e pesquisa livres e instituições capazes de resistir a pressões corporativas e autoritárias. A tecnologia pode ampliar as capacidades humanas, mas não possui autoridade para decidir os fins da vida coletiva. Essa decisão pertence à comunidade política, plural, falível e aberta à contestação, no Brasil ou em qualquer lugar onde a técnica pretenda substituir a soberania popular.
