Anthropic pede que laboratórios de IA considerem desacelerar desenvolvimento diante de riscos de autoaperfeiçoamento

A Anthropic, empresa responsável pelo modelo de inteligência artificial Claude, defendeu que os principais laboratórios de IA do mundo considerem desacelerar de forma coordenada o desenvolvimento de sistemas avançados caso surjam sinais de que a tecnologia esteja se aproximando de capacidades de autoaperfeiçoamento sem controle humano adequado.

O alerta foi feito em um texto assinado por Jack Clark, cofundador da Anthropic, e Marina Favaro, responsável pelo Anthropic Institute. Segundo a empresa, os modelos de IA estão evoluindo em ritmo tão acelerado que podem, em breve, atingir um estágio conhecido como “melhoria recursiva”, no qual sistemas artificiais seriam capazes de contribuir para o próprio avanço ou para o desenvolvimento de novas gerações de IA com cada vez menos intervenção humana.

A Anthropic afirma que esse cenário exigiria mecanismos de segurança, monitoramento e governança muito mais robustos do que os atualmente existentes. Para a empresa, o risco não está apenas no lançamento público de modelos poderosos, mas também no uso interno desses sistemas por laboratórios de ponta para acelerar pesquisa, programação, avaliação, desenho de chips, automação de experimentos e desenvolvimento de novos modelos.

A proposta não pede uma paralisação imediata e unilateral da corrida da IA. Pelo contrário, a Anthropic reconhece que uma pausa isolada por parte de uma única empresa teria pouco efeito se concorrentes continuassem avançando. Por isso, a companhia defende um modelo coordenado entre os principais desenvolvedores, com critérios verificáveis e supervisão ampla, caso as capacidades dos sistemas ultrapassem determinados limiares de risco.

A preocupação central é que sistemas suficientemente avançados possam acelerar a pesquisa em IA de forma autônoma, criando um ciclo de desenvolvimento cada vez mais rápido. Esse processo poderia reduzir a capacidade de governos, empresas e sociedade civil de compreender, auditar e controlar os impactos da tecnologia antes que ela seja amplamente disseminada.

O debate ocorre em meio à intensificação da corrida entre empresas como Anthropic, OpenAI, Google DeepMind, Meta, xAI e Mistral para desenvolver modelos mais capazes. Embora muitos desses sistemas sejam apresentados como ferramentas de produtividade, atendimento, programação e análise de dados, especialistas em segurança alertam que capacidades avançadas também podem ampliar riscos em áreas como ciberataques, manipulação de informação, automação de pesquisa sensível, armas químicas ou biológicas e perda de controle sobre agentes autônomos.

A própria Anthropic já vinha se posicionando como uma das empresas mais ativas na defesa de políticas de segurança para IA de fronteira. A companhia desenvolveu a chamada Responsible Scaling Policy, estrutura voluntária que busca associar níveis crescentes de capacidade dos modelos a exigências progressivamente mais rigorosas de segurança, testes, governança e contenção. A versão mais recente dessa política, em vigor desde fevereiro de 2026, reorganizou os critérios de risco e incluiu mecanismos de transparência, como relatórios periódicos e roteiros de segurança.

O novo alerta, porém, vai além de políticas internas de uma única empresa. A Anthropic sustenta que o setor precisa discutir mecanismos coletivos para lidar com riscos sistêmicos, especialmente se os modelos começarem a automatizar partes relevantes da própria pesquisa em IA. A empresa compara a necessidade de coordenação a regimes internacionais de controle de tecnologias sensíveis, nos quais verificação, confiança mútua e transparência são elementos indispensáveis.

A discussão encontra eco em pesquisas acadêmicas recentes. Estudos sobre automação de pesquisa em IA têm sugerido que sistemas capazes de melhorar outros sistemas ou acelerar significativamente o desenvolvimento tecnológico exigiriam salvaguardas mínimas, como aprovação humana significativa, monitoramento contínuo e restrições a ciclos fechados de autoaperfeiçoamento.

A proposta também surge em um momento de crescente pressão regulatória. Nos Estados Unidos, a resposta federal ainda se apoia em grande parte em compromissos voluntários e iniciativas fragmentadas, enquanto estados como a Califórnia avançaram em regras específicas para empresas de IA de fronteira. Na União Europeia, o AI Act e códigos de prática para modelos de uso geral buscam impor obrigações de transparência, avaliação de risco e documentação técnica.

Apesar do tom de alerta, a Anthropic também enfrenta críticas. Parte dos concorrentes e observadores do setor vê esse tipo de proposta como uma tentativa de moldar a regulação de forma favorável às empresas já estabelecidas, elevando barreiras para novos competidores. Outros argumentam que a empresa continua desenvolvendo modelos cada vez mais poderosos enquanto defende medidas de contenção coletiva, o que evidencia a tensão entre segurança e competição comercial.

Ainda assim, o posicionamento da Anthropic reforça uma mudança no debate público sobre IA. A discussão deixou de se concentrar apenas em vieses, direitos autorais ou impacto no emprego e passou a incluir riscos associados a sistemas autônomos capazes de acelerar o próprio progresso tecnológico.■