ABD hükümetinin Fable 5 ve Mythos 5'e erişimin askıya alınmasına ilişkin direktifi hakkında açıklama

ABD hükümetı, ulusal güvenlik yetkilerine dayanarak, yabancı uyruklu herhangi bir kişinin (ABD içinde veya dışında olsun) Fable 5 ve Mythos 5'e erişimini askıya alan bir ihracat kontrol direktifi yayınlamıştır. Bu direktif Anthropic'in yabancı uyruklu çalışanlarını da kapsıyor. Bu emrin sonuç olarak, uyum sağlamak için Fable 5 ve Mythos 5'i tüm müşterilerimiz için derhal devre dışı bırakmamız gerekmektedir. Diğer tüm Anthropic modellerine erişim etkilenmeyecektir.

Hükümetin direktifini bugün saat 17:21 (ET) itibariyle aldık. Mektup, ulusal güvenlik endişesinin belirli ayrıntılarını sağlamadı. Anladığımız kadarıyla, hükümet Fable 5'i bypass etmenin veya "jailbreak" yapmanın bir yönteminin farkına vardığını düşünüyor. Bu spesifik tekniğin bir gösterisini inceledik ve daha önce bilinen az sayıda küçük güvenlik açığını belirlemek için kullanıldığını gördük. Bu güvenlik açıklarının tamamı nispeten basit görünüyor ve diğer halka açık modellerin de bypass gerektirmeden bunları keşfedebileceğini bulduk.

Anthropıc'in Fable'ın safeguard'larına ilişkin tutumu, başlatma blog yazımızda açıklandığı şekilde aşağıdaki gibidir:

• Fable'ın siber güvenlik ile ilgili görevler için kötüye kullanılma olasılığını büyük ölçüde azaltan güçlü safeguard'lar kurmuşuz (diğerleri arasında). Aslında, safeguard'larımız o kadar güçlüdür ki, birçok kullanıcı bunların çok geniş olduğundan şikayet etmiştir.
• Fable'ın başlatılmasından önceki haftalarda, Anthropic ABD hükümetü, UK AISI, birden fazla özel üçüncü taraf kuruluş ve dahili ekiplerle birlikte Fable'ın safeguard'larını toplam binlerce saat red-team'i yaptı.
• Bu testler, Fable'ın safeguard'larının daha önce konuşlandırılan herhangi bir modelden önemli ölçüde daha etkili olduğunu gösterdi.
• Hiçbir test yapan kişi henüz universal jailbreak bulamadı—modelin safeguard'larını geniş bir şekilde bypass edebilen ve geniş bir siber yetenekler yelpazesinin kilidini açabilen bir jailbreak yöntemi.
• Mükemmel jailbreak direnci şu anda hiçbir model sağlayıcı için mümkün olmadığını düşünüyoruz. Endüstride kullanılan her safeguard evrensel olmayan jailbreaklara karşı savunmasızdır (belirli koşullarda bazı siber bilgiler elde edebilir) ve evrensel jailbreak'lerin gelecekte bulunması muhtemeldir. Bunu Fable 5'i yayınladığımızda açıkça belirttik.
• Mükemmel jailbreak direnci bugün mümkün görünmediğinden, Anthropic Fable 5 ile defense in depth stratejisini benimsemiştir. Jailbreak'leri dar yapma (evrensel olmayan jailbreak'ler söz konusu olduğunda) veya üretmesi çok pahalı yapma (evrensel jailbreak'ler söz konusu olduğunda) amaçladık ve bunu başarılı saldırıları hızlı bir şekilde tespit etmek ve kapatmak için kapsamlı izlemeyle birleştirdik. Bu aynı zamanda Anthropic'in Fable ile 30 günlük müşteri veri saklama istemesinin de nedenidir—müşterilerimizin yanında gerçek maliyetler taşıyan ancak jailbreak'leri araştırmamız ve azaltmamız sağlayan bir politika değişikliği.
• Bu defense in depth stratejisini destekliyoruz. Fable'ın oluşturduğu riskleri azaltır, bunları endüstri genelinde halihazırda konuşlandırılmış mevcut modellerin riskleriyle karşılaştırılabilir hale getirir.
• Zararlı bir sonuca yol açan endişe verici bir evrensel olmayan potansiyel jailbreak açıklaması bile almadık. Bize açıklanan potansiyel jailbreak'ler ya tamamen zararsız yanıtlar ya da Mythos'a özgü herhangi bir iyileştirme sağlamayan küçük bulgulardır.

Şimdiye kadar, hükümet bize yalnızca potansiyel dar, evrensel olmayan bir jailbreak'in sözlü kanıtını vermiş; bu esas olarak modelden belirli bir codebase'i okumasını ve herhangi bir yazılım kusurunun düzeltilmesini istemekten ibarettir. Bir potansiyel jailbreak'in hükümetle paylaşıldığını anladığımız kadarıyla. Hükümetin direktifinin temelinde olduğuna inandığımız bir raporu inceledik ve burada gösterilen yetenek düzeyinin diğer modellerde (OpenAI'ın GPT-5.5'i dahil) geniş çapta mevcut olduğunu ve sistemleri güvende tutan savunmacılar tarafından her gün kullanıldığını doğruladık. Önümüzdeki 24 saat içinde daha fazla ayrıntı paylaşacağız.

Hükümetin yasal direktifine uyum sağlıyor ve tüm kullanıcılar için Fable 5 ve Mythos 5'e erişimi kaldırıyoruz. Bununla birlikte, dar bir potansiyel jailbreak'in bulunuşunun yüzlerce milyon insana konuşlandırılmış ticari bir modeli geri çekmek için neden olması gerektiğine katılmıyoruz. Bu standart endüstri genelinde uygulanırsa, tüm frontier model sağlayıcılar için esasen tüm yeni model dağıtımlarını durduracağını düşünüyoruz.

Halka açık olarak ifade ettiğimiz gibi, hükümetin güvenli olmayan dağıtımları engelleyebilme yeteneğine sahip olması gerektiğini, şeffaf, adil, net ve teknik gerçeklere dayanan yasal bir sürecin parçası olarak inanıyoruz. Bu eylem bu ilkelere uyum sağlamıyor.

Müşterilerimize bu rahatsızlıktan dolayı özür dileriz. Bunun bir yanlış anlama olduğuna inanıyoruz ve mümkün olan en kısa sürede erişimi geri yüklemek için çalışıyoruz.