Especialistas em Cibersegurança Alertam: Proibição de IA da Anthropic Prejudica Defensores e Aumenta Riscos
Um grupo influente de dezenas de especialistas em cibersegurança, incluindo nomes proeminentes do setor, publicou uma carta aberta direcionada ao governo dos Estados Unidos. O documento solicita a revogação de uma ordem de controle de exportação que restringe o acesso aos modelos mais avançados da Anthropic, Fable e Mythos. A medida, segundo os signatários, está inadvertidamente desarmando os próprios defensores do ciberespaço.
A carta argumenta veementemente que a ação governamental removeu as ferramentas de IA mais capazes das mãos daqueles que trabalham para identificar vulnerabilidades e fortalecer a segurança de softwares e produtos. Em um cenário de rápida evolução das ameaças cibernéticas, a retirada de capacidades essenciais dos defensores é vista como uma atitude perigosa e contraproducente.
A polêmica se intensificou na última sexta-feira, quando o governo dos EUA ordenou que a Anthropic limitasse a exportação de seus modelos Fable e Mythos, citando preocupações com a segurança nacional. A falta de explicações detalhadas sobre os motivos específicos da ordem levou a Anthropic a suspender o acesso a esses modelos para todos os usuários globalmente, ampliando o descontentamento na comunidade de segurança.
Veteranos da Indústria Pedem Revisão Urgente da Ordem de Exportação
A carta aberta já conta com 76 assinaturas de especialistas renomados, incluindo Alex Stamos, ex-chefe de segurança do Facebook; Casey Ellis, fundador da plataforma de bug bounty Bugcrowd; e Jon Callas, criptógrafo e ex-gerente de design e arquitetura de segurança da Apple. A lista também inclui Paul Vixie, cientista da computação, Dino Dai Zovi, ex-chefe de engenharia de segurança aplicada na Block, Katie Moussouris, fundadora da Luta Security, e Rachel Tobac, CEO da SocialProof Security.
Quando o modelo Mythos foi lançado em abril, a Anthropic o descreveu como excepcionalmente poderoso na identificação de vulnerabilidades de segurança, o que justificava um acesso restrito para evitar seu uso por hackers mal-intencionados ou adversários estrangeiros. Inicialmente, cerca de 50 empresas tiveram acesso, número que recentemente se expandiu para aproximadamente 150 organizações em 15 países.
Recentemente, a Anthropic lançou o Fable, uma versão pública do Mythos com supostas salvaguardas rigorosas para impedir seu uso em áreas como biologia, química e cibersegurança, além de dificultar sua engenharia reversa. No entanto, muitos especialistas relataram que essas salvaguardas eram tão estritas que bloqueavam praticamente qualquer consulta relacionada à cibersegurança.
O Relatório da Amazon e a Interpretação das Salvaguardas de IA
A Anthropic sugeriu que a ordem de controle de exportação da Casa Branca pode ter sido motivada por um relatório que descrevia um método para contornar, ou fazer “jailbreak”, no modelo Fable, desbloqueando suas capacidades de nível Mythos. A fonte dessa informação, de acordo com Katie Moussouris, uma das signatárias da carta, é um artigo de pesquisadores da Amazon que ela revisou, mas que não foi tornado público.
Moussouris, em uma postagem de blog, criticou a interpretação do relatório, afirmando que o estudo não demonstrou um verdadeiro jailbreak. Segundo ela, os pesquisadores simplesmente pediram ao Fable para corrigir código-fonte aberto com vulnerabilidades conhecidas e públicas, além de vulnerabilidades “deliberadamente plantadas”, após o modelo inicialmente recusar a análise de segurança.
“O comportamento descrito no artigo não pode ser corrigido de forma significativa, e qualquer tentativa apenas enfraqueceria o modelo para a defesa”, escreveu Moussouris. Ela ressaltou que os defensores precisam da capacidade de pedir à IA para corrigir bugs, explicar a importância da correção e escrever testes para confirmar a eficácia do patch. Para ela, isso não é um bypass de salvaguarda, mas sim a função mais valiosa de um modelo de IA para a segurança defensiva: executar o ciclo de encontrar, corrigir e testar que os defensores realizam diariamente.
Comparabilidade de Modelos e a Necessidade de Regulação Transparente
A crítica de Moussouris foi ecoada na carta aberta, onde o grupo de especialistas expressou a crença de que as capacidades demonstradas no artigo da Amazon podem ser replicadas em outros modelos de IA, como o GPT-5.5 da OpenAI, as versões Claude Opus 4.8 e Sonnet da própria Anthropic, e até mesmo em modelos chineses como o Kimi 2.7.
Moussouris explicou que os bugs usados para demonstrar as técnicas no artigo podem ser encontrados com outros modelos. Ela argumentou que o método em si é uma técnica de bypass de salvaguarda, e que outros modelos sem as salvaguardas do Fable frequentemente não recusam a solicitação direta de busca por falhas de segurança, portanto, não precisam de um bypass.
A carta também fez um apelo por regulamentações transparentes e equitativamente aplicadas, criadas através de um “processo democrático de elaboração de regras”. Essa regulamentação, segundo os especialistas, deveria basear-se em pesquisa científica conduzida por especialistas da indústria e acadêmicos, e ser utilizada apenas na extensão mínima necessária para garantir a segurança do público americano.
Conclusão Estratégica: O Impacto Econômico da Restrição de IA em Cibersegurança
A proibição de exportação de modelos de IA avançados como os da Anthropic pode ter implicações econômicas significativas. Por um lado, a preocupação com a segurança nacional é legítima, mas a restrição excessiva pode inibir a inovação e a capacidade de empresas americanas e aliadas de se defenderem contra ataques cibernéticos, um mercado em constante crescimento e de alto valor.
O risco financeiro reside na possibilidade de que adversários, que não estão sujeitos às mesmas restrições, ganhem vantagem tecnológica. Isso poderia resultar em perdas econômicas diretas para empresas afetadas por ataques cibernéticos e, indiretamente, afetar o valuation de empresas de tecnologia que dependem dessas ferramentas para P&D e segurança. Por outro lado, a demanda por soluções de cibersegurança mais robustas e inovadoras pode impulsionar oportunidades de investimento em empresas que desenvolvam alternativas ou contornem as restrições de forma ética.
Para investidores e gestores, a tendência aponta para um cenário onde a corrida pela supremacia em IA, especialmente em cibersegurança, continuará intensa. A regulamentação se tornará um fator chave, e empresas capazes de navegar nesse ambiente complexo, equilibrando inovação com conformidade e segurança, terão uma vantagem competitiva. A minha leitura é que veremos um aumento na colaboração público-privada para definir diretrizes claras e eficazes, mas a capacidade de resposta rápida dos defensores contra ameaças emergentes dependerá do acesso a ferramentas de ponta.
Este conteúdo é de caráter exclusivamente informativo e educacional. Não constitui recomendação de investimento, consultoria financeira ou oferta de qualquer ativo. Consulte um profissional habilitado antes de tomar decisões financeiras.
Qual a sua opinião sobre essa decisão do governo americano e o impacto para o mercado de cibersegurança? Compartilhe suas dúvidas e reflexões nos comentários abaixo!
