O fosso da Anthropic

(crédito: Freepik)

Há um gesto que se repete sempre que uma tecnologia se torna grande demais para ser ignorada. A empresa que lidera a corrida toma a frente e propõe, ela mesma, as regras do jogo. Foi o que a Anthropic fez esta semana ao publicar dois documentos sob a marca política para o salto da IA. Os textos partem da premissa de que a inteligência artificial avança em ritmo exponencial enquanto a máquina de fazer política regulatória foi construída para um mundo lento. A constatação é correta. O problema é quem se apresenta para corrigi-la. Quando o desenhista da cerca é também o maior proprietário do terreno cercado, convém olhar duas vezes onde ele finca as estacas.

James Görgen é Especialista em Políticas Públicas e Gestão Governamental. Foto: Divulgação

O primeiro texto, voltado à segurança, propõe que os governos tenham autoridade legal para bloquear ou dissuadir a implantação de modelos que apresentem risco catastrófico. As regras valeriam apenas para sistemas treinados acima de um certo patamar de processamento e desenvolvidos por empresas com mais de US$ 500 milhões de receita anual ou US$ 1 bilhão em pesquisa. Quatro famílias de risco organizam o documento: armas biológicas, operações cibernéticas ofensivas, perda de controle sobre sistemas autônomos e a automação da própria pesquisa em IA. Os desenvolvedores teriam de testar seus modelos, publicar relatórios, submeter-se a avaliadores independentes e manter programas de segurança robustos. A metade final, menos comentada, trata de resiliência social diante de ataques biológicos e cibernéticos.

O segundo documento enfrenta as questões do mundo do trabalho. Diante da hipótese de que a IA se torne um substituto geral da mão de obra humana, propõe respostas calibradas por três níveis de desemprego, nomeados como cinco por cento, dez por cento e um patamar sem precedentes. No primeiro, estão as contas de capital semeadas no nascimento e seguro-salário. No segundo, seguro-desemprego ampliado. No terceiro, território novo, a empresa nomeia renda básica universal, fundos soberanos de IA e partilha acionária com trabalhadores, financiados por novos tributos sobre o capital e sobre o setor digital. Acompanha o pacote um compromisso de US$ 350 milhões em pesquisa e bolsas.

Críticas e ressalvas

A recepção crítica dentro do próprio campo já vinha se formando mesmo antes da publicação dos novos ensaios. Sobre um paper anterior, o ex-responsável pelas diretrizes de IA na Casa Branca, David Sacks, classificou a postura da empresa como captura regulatória baseada no fomento do medo, enquanto o então cientista-chefe de IA da Meta, Yann LeCun, foi além, dizendo que a estratégia da Anthropic visava regular os modelos em software livre até a extinção.

Recentemente, novas críticas foram incorporadas. Um ensaio incisivo descreveu regimes de auditoria desse tipo como um fosso regulatório, desenhado para impor custos fixos de conformidade que os gigantes absorvem sem esforço e que esmagam qualquer concorrente pequeno. Sobre o paper do trabalho, a ironia mais citada resumiu o documento como um conceito de plano para um eventual colapso do emprego. E há quem note no jogo também um federalismo reverso, pelo qual as grandes empresas usariam leis estaduais para fabricar um padrão nacional de fato antes que o Congresso dos Estados Unidos legislasse sobre a tecnologia.

Vale uma correção de rota, contudo. A leitura integral do texto de segurança mostra que o poder de bloqueio é mais contido do que as manchetes sugeriram. A agência governamental sugerida pela Anthropic não agiria por juízo próprio de risco, mas apenas diante de violações específicas e enumeradas, de preferência por via judicial. O próprio documento ainda antecipa a objeção de que as empresas escolheriam o avaliador mais leniente e propõe sorteio entre os avaliadores mais bem qualificados. Reconhecer essa nuance fortalece a crítica em vez de enfraquecê-la, porque a desloca do mecanismo para a estrutura que o cerca.

Problemas de fundo

O primeiro deles é o momento. Os documentos chegam enquanto a Anthropic prepara sua abertura de capital, enfrenta o Pentágono, que a classificou como risco à cadeia de suprimentos, na Justiça e observa o Congresso negociar um acordo que trocaria a autoridade regulatória dos estados por leis de segurança digital. A empresa justifica o gesto dizendo que a governança precisa acompanhar o ritmo da tecnologia, e o argumento não é falso. Mas, nesse contexto, publicar o próprio arcabouço de regras parece menos um ato de transparência do que uma tentativa de fixar os termos de um debate que avança depressa e, até aqui, sem a empresa no centro. Quem escreve o primeiro rascunho de uma regra raramente o faz contra os próprios interesses.

Ao mesmo tempo, existe a assimetria de soberania. Ambos os documentos são redigidos, por confissão própria, com o governo federal dos Estados Unidos em mente, e só depois universalizados como princípios a serem levados ao G7 e à cúpula de IA de Genebra. É o padrão que já conhecemos, em que a agenda nasce nacional e é exportada como universal. De preferência, fora do sistema da Organização das Nações Unidas (ONU). Uma análise contundente chamou o fenômeno mais amplo de captura estratégica, o inverso da captura regulatória clássica.

Não é a empresa que captura o Estado, é o Estado que captura a empresa cuja tecnologia se tornou crítica, e o resultado é uma convergência funcional com o modelo chinês alcançada por outro caminho — Washington obtém por alavanca de compras e designações de segurança o que Pequim obtém por lei e propriedade estatal. O mesmo texto descreve um arranjo de nações que condiciona o acesso a semicondutores e modelos ao alinhamento político, com a União Europeia ausente. Para quem está fora desse círculo, um regime de bloqueio concebido e operado a partir de Washington define quem poderá rodar quais modelos, sem assento para as jurisdições afetadas.

Por fim, há o problema estrutural do entrincheiramento. Os limiares de processamento e de receita capturam, na prática, meia dúzia de empresas, todas já capazes de cumprir as exigências sugeridas. A Anthropic apresenta isso como gesto de responsabilidade, e em parte é. Mas o fosso, vale dizer, não está no poder de bloqueio, que vimos ser contido, e sim no custo de conformidade e na fixação do padrão, despesas que os gigantes absorvem sem esforço e que um concorrente pequeno não tem como bancar. O efeito estrutural de uma regra que só se aplica a quem já está no topo é levantar uma cerca em torno do topo.

A rede que não cobre

Se o documento de segurança peca por excesso de ambição, o econômico peca pela falta dela. Onde mais importa, no cenário de desemprego sem precedentes, a Anthropic admite não ter respostas e adia o financiamento para um debate futuro, limitando-se a nomear candidatos como a renda básica universal e os fundos soberanos de IA. O próprio texto reconhece o problema estrutural — como o capital é tributado menos que o trabalho, deslocar renda do trabalho para o capital encolhe a base fiscal —, mas recua diante da conclusão. E sela o documento com a frase mais reveladora do pacote, a de que a sociedade dependerá, para se reerguer, inclusive de sistemas de IA cada vez mais capazes. Ou seja, a mesma tecnologia que produz o desemprego é convocada para curá-lo.

Há ainda uma assimetria entre os dois documentos que diz tudo. Ao risco catastrófico, a empresa quer dar ao Estado poder coercitivo desde já. Ao desemprego, que é o efeito mais provável e mais difuso, oferece cenários, recomendações e voluntariedade. Os trezentos e cinquenta milhões de dólares anunciados são filantropia e financiam pesquisa sobre políticas, não as políticas em si, cuja conta é deixada para os governos. É o incendiário se oferecendo para custear estudos sobre a brigada de incêndio. A rede, no fim, é desenhada para o caso em que menos será necessária e fica vaga exatamente onde precisaria ser densa.

A proatividade que protege

Aqui mora o ponto mais delicado. Desde o ano passado, a empresa tem construído sua marca como a adulta responsável da sala e os dois documentos reforçam essa imagem. Convém lembrar, porém, que poucas semanas antes a Anthropic afrouxou sua própria política de escalonamento responsável, trocando pausas categóricas por uma moldura flexível sob o argumento de que a contenção unilateral não cabe num mercado acelerado. Pedir regras duras para todos enquanto se relaxam as regras para si mesma é uma contradição que nenhum compromisso filantrópico apaga.

O roteiro tem ainda um ato anterior. Poucos dias antes dos dois documentos, a empresa publicou um manifesto pedindo que os grandes laboratórios criem um mecanismo coordenado e verificável para desacelerar ou pausar o desenvolvimento caso a IA passe a se aprimorar sozinha mais rápido do que a sociedade consegue administrar os riscos. Para dramatizar a urgência, anuncia que mais de 80% do código incorporado ao seu próprio sistema já é escrito pela IA, um dado que, a meu ver, funciona como faca de dois gumes, pois serve tanto de alerta de risco quanto de vitrine de capacidade às vésperas da oferta de ações. O apelo soa prudente, mas vem da mesma empresa que, meses atrás, abandonou seu compromisso unilateral de pausa sob o argumento oposto, o de que conter-se sozinha não fazia sentido num mercado em corrida. A peça fecha o círculo, porque, como a pausa de uma única empresa apenas deslocaria a liderança para outra, a contenção é transferida para um acordo coletivo que depende de todos concordarem ao mesmo tempo e que, por isso, dificilmente virá. Pede-se o freio coletivo no exato momento em que se descarta o freio próprio e enquanto o carro segue acelerando.

O teatro tem dois palcos recentes. O primeiro é o Mythos Preview, modelo que a Anthropic retém do público sob o argumento de que suas capacidades ofensivas seriam perigosas demais, e cuja contagem de vulnerabilidades, mais de dez mil falhas críticas encontradas pelos parceiros, virou a peça central de prova para justificar a regulação que a própria empresa propõe. O segundo é o Glasswing, programa que distribui esse mesmo modelo a um clube selecionado de organizações de confiança, operadores de infraestrutura, o governo dos Estados Unidos, a OTAN e a agência europeia de cibersegurança, encenando a tutela responsável no que me parece um cultivo de dependência e de boa vontade junto a quem decide as regras. O roteiro se completa na bilheteria, porque o mesmo perigo que fundamenta as regras foi liberado ao público geral sob a marca Fable 5, às vésperas da abertura de capital. Aquilo que era perigoso demais para circular tornou-se, no momento conveniente, produto.

Há ainda um mecanismo mais sutil. Ao propor que práticas já adotadas pela empresa virem padrão federal, o documento transforma sua rotina interna em lei e obriga cada concorrente a imitá-la ou sair do mercado. O regime de avaliadores independentes ilustra o impasse, porque o universo de especialistas capazes de auditar modelos de fronteira vive quase inteiramente dentro do mesmo punhado de empresas que seriam auditadas. A proatividade, vista de perto, é também uma forma de definir o terreno em que os outros terão de jogar. Não por acaso, a mesma empresa que traça linhas vermelhas contra usos militares de seu invento teve seu modelo empregado em operações de guerra, o que mostra que a virtude é seletiva e que a fronteira entre civil e militar não se sustenta no plano técnico.

Muito além do quintal

O ângulo que mais importa para a minha perspectiva é o que esses documentos deixam de fora. A comunidade de software livre aponta um furo decisivo. Um regime de bloqueio centrado em laboratórios estadunidenses não alcança os modelos abertos nem os desenvolvedores fora do escopo, de modo que a regra não governa exatamente os atores que mais preocupam e ainda corre o risco de sufocar a alternativa aberta, justamente a via por onde países sem trilhões para investir em modelos e infraestrutura conseguem entrar na cadeia. O que se vende como segurança pode se converter, do ponto de vista de quem está na periferia da indústria, em barreira de entrada. E como a capacidade ofensiva se difunde muito além dos poucos desenvolvedores cobertos, fato que o próprio documento admite, a cerca protege os de dentro sem conter o risco que diz combater.

Aqui o problema deixa de ser dos Estados Unidos e passa a ser de todos nós. O documento econômico reconhece que pouco mais da metade da população mundial conta com qualquer proteção social e que toda política de renda dependerá de infraestrutura pública digital, de identidade, pagamentos e troca de dados. São exatamente os trilhos que Índia e Brasil construíram e que boa parte do Sul Global ainda persegue. Se a discussão sobre o futuro do trabalho e sobre o controle dos modelos for resolvida em Washington, em Genebra e nos foros de nações alinhadas, herdaremos um arcabouço pensado para outra realidade fiscal, outra estrutura produtiva e outra correlação de forças.

O risco não está em a Anthropic estar errada, porque em muitos pontos ela está mais lúcida do que seus concorrentes. O risco está em aceitarmos que a régua do debate seja fixada por quem mais tem a ganhar com o formato dela e em chegarmos à mesa apenas para assinar este pacto. A resposta não é recusar a conversa sobre risco catastrófico ou sobre desemprego tecnológico, que são reais, e sim exigir que essa conversa tenha mais de uma sede, mais de uma língua e mais de um interesse. Enquanto o Norte desenha o fosso e a rede, ao Sul cabe a tarefa, bem menos confortável, de desenhar os seus próprios contornos da governança de IA.

* – Sobre o Autor:  James Görgen é Especialista em Políticas Públicas e Gestão Governamental. Os artigos do autor estão também disponíveis no Blog Floresta Digital. As opiniões expressas nesse artigo não necessariamente refletem o ponto de vista de TELETIME.