O governo dos Estados Unidos, citando autoridades de segurança nacional, emitiu uma diretiva de controle de exportação que suspende o acesso ao Fable 5 e Mythos 5 por qualquer nacional estrangeiro, tanto dentro quanto fora do país, incluindo funcionários da Anthropic. Como resultado, somos obrigados a desativar imediatamente o acesso ao Fable 5 e Mythos 5 para todos os nossos clientes, a fim de garantir conformidade. O acesso a outros modelos da Anthropic não será afetado.

A diretiva foi recebida às 17h21 (ET) e não apresentou detalhes específicos sobre as preocupações de segurança nacional. Acreditamos que o governo tomou conhecimento de um método para contornar, ou "jailbreak", o Fable 5. Realizamos uma revisão de uma demonstração dessa técnica, que identificou algumas vulnerabilidades menores previamente conhecidas. No entanto, essas vulnerabilidades são relativamente simples e outros modelos disponíveis publicamente também conseguem identificá-las sem exigir um bypass.

A Anthropic mantém uma postura rigorosa em relação às salvaguardas do Fable, conforme descrito em nosso post de lançamento. Implementamos salvaguardas robustas que reduzem significativamente a probabilidade de que o Fable seja mal utilizado para tarefas relacionadas à cibersegurança. Na verdade, muitos usuários reclamaram que essas salvaguardas são excessivamente abrangentes.

Nas semanas que antecederam o lançamento do Fable, trabalhamos em colaboração com o governo dos EUA, a AISI do Reino Unido e várias organizações privadas para testar as salvaguardas do Fable por milhares de horas. Esses testes demonstraram que as proteções do Fable são substancialmente mais eficazes do que as de qualquer modelo anteriormente implantado.

Até o momento, não encontramos uma forma universal de jailbreak que possa contornar amplamente as salvaguardas do modelo. Suspeitamos que uma resistência perfeita a jailbreaks não seja atualmente possível para nenhum provedor de modelo. Todas as salvaguardas utilizadas na indústria são vulneráveis a jailbreaks não universais, que podem extrair informações cibernéticas em circunstâncias específicas. Acreditamos que, no futuro, jailbreaks universais poderão ser descobertos.

Dado que a resistência perfeita a jailbreaks não parece ser viável atualmente, adotamos uma estratégia de defesa em profundidade com o Fable 5. Nosso objetivo foi tornar os jailbreaks estreitos ou caros de produzir, combinando isso com um monitoramento completo para detectar rapidamente e neutralizar ataques bem-sucedidos. Essa é também a razão pela qual exigimos a retenção de dados dos clientes por 30 dias com o Fable, uma mudança de política que representa custos reais para nós, mas que nos permite pesquisar e mitigar jailbreaks.

Estamos cumprindo a diretiva legal do governo e removendo o acesso ao Fable 5 e Mythos 5 para todos os usuários. Contudo, discordamos que a descoberta de um potencial jailbreak não universal justifique a retirada de um modelo comercial que atende centenas de milhões de pessoas. Se essa norma fosse aplicada em toda a indústria, acreditamos que isso interromperia efetivamente todos os novos lançamentos de modelos.

Como afirmamos publicamente, acreditamos que o governo deve ter a capacidade de bloquear implantações inseguras, dentro de um processo estatutário que seja transparente, justo e baseado em fatos técnicos. Esta ação não segue esses princípios. Pedimos desculpas pela interrupção aos nossos clientes e acreditamos que isso é um mal-entendido. Estamos trabalhando para restaurar o acesso o mais rápido possível.