ABD’de Anthropic “ikilemi”: NSA, Mythos'u aktif olarak kullanıyor
ABD Ulusal Güvenlik Ajansı (NSA), Anthropic'in geliştirdiği ve en güçlü yapay zeka modeli olarak tanımlanan Mythos Preview'ı aktif şekilde kullanmaya devam ediyor. Bu durum, Savunma Bakanlığı'nın (Pentagon) şirketin supply chain açısından risk oluşturduğu gerekçesiyle resmi sınıflandırma yapmasına rağmen dikkat çekiyor. Çelişkili hamle, hem kamu güvenliği hem de teknoloji iş birliklerinin etik boundaries konusunda yeni bir tartışma başlatabilir.
Şubat ayında Pentagon, Anthropic'in federal tedarik ağından çıkarılmasını ve ortaklarının benzer önlem almasını talep etmişti. Karar hâlâ legal process , ancak bazı birimlerin bu sürece rağmen modelle çalışmaya devam etmesi, kurumsal uygulama ile resmi politika arasındaki kopukluğu gözler önüne seriyor. Güvenlik kurumları, özellikle siber tehditlere karşı savunma inşa etmede bu tür sistemlerden yararlanmak istiyor.
Axios'un aktardığı iki kaynağa göre NSA, Mythos'u yalnızca test etmiyor; modeli actively bir şekilde kullanıyor. Hatta bir kaynak, kullanımın NSA ile sınırlı olmadığını, Savunma Bakanlığı içinde daha yaygın bir alana yayıldığını ifade ediyor. Anthropic ise bu teknolojiye erişimi yaklaşık 40 kuruluşa sınırlı tutuyor. Şirket, özellikle cyber operations kapasitesi nedeniyle modelin yayılmasının riskli olabileceğini belirtiyor.
Mythos Preview, kod yazma ve otonom görev yürütme konularında advanced capabilities sahip. Bu, insan müdahalesi olmadan görevleri tamamlamasına olanak sağlıyor. Ancak uzmanlar, bu seviyedeki bir yapay zekanın güvenlik açıklarını tespit etmenin yanı sıra, aynı açıkların kötüye exploitation senaryolaştırabileceğini uyarıyor. Bu ikilem, yapay zekanın hem koruyucu hem de tehdit unsuru olabileceği gerçeğini yansıtıyor.
Pentagon ile Anthropic arasındaki gerilim, yılın başında contract negotiations sırasında ortaya çıkmıştı. Pentagon, Claude modelinin "tüm yasal alanlarda" serbestçe kullanılmasını isterken, şirket gözetim ve otonom silah sistemleri gibi alanlarda sınırlama istemişti. Bu tutum, şirketin yapay zekayı kontrolsüz kullanımın ötesine taşıma commitment anlamına geliyor olsa da, pratikte bu tutarlılığın sarsıldığı izlenimi veriyor.
Tedarik zincirinde risk diyorsun, ama aynı teknolojiyi kullanıyorsun. Bu ikilem sadece hypocrisy ikiyüzlülük mi, yoksa stratejik bir hesap mı?
NSA'nın bu modeli kullanması bana göre kaçınılmazdı. Siber tehditler her geçen gün evolving değişiyor, bunlara karşı pasif kalmak daha büyük risk.
Gelişmiş bir modelin sadece 40 kuruluşa açılması, aslında iyi bir safeguard güvence adımı. Ama bu kurumlar kim, kimler bu listeye girdi?
Pentagon'un sınıflandırmasına rağmen kullanım devam ediyorsa, bu yönetişimde ciddi bir delik var demek.
Mythos'un otonom görev yapabilmesi gerçekten etkileyici. Ama bu kadar autonomous özerk bir sistem, yanlış ellerde ne kadar tehlikeli olabilir?
Şirket etik duruşundan bahsediyor ama devlet kurumlarına erişim veriyor. Bu contradiction çelişkiyi biri açıklasın lütfen.
Burada asıl mesele teknoloji değil, trust güven. Kimin hangi sistemde ne kadar yetkisi var, belli değil.
NSA'nın erişimine şaşırmadım. Ama bu tür kararların şeffaflık olmadan alınması, demokratik denetimi zayıflatıyor.