Yapay zekâ yarışı tüm hızıyla ve sınır tanımaz bir şekilde devam ederken, sektörün "güvenlik" odaklı oyuncusu Anthropic, regülasyon tartışmalarına damga vuran radikal bir tasarı sundu. Sadece daha yetenekli ve büyük modeller üretmekle yetinmeyen şirket, olası felaket senaryolarını önlemek adına sınırları son derece keskin bir şekilde çizen yeni bir yapay zekâ güvenliği çerçevesi önerdi.
Bugüne kadar soyut "varoluşsal risk" tartışmaları etrafında dönen güvenlik endişeleri, bu tasarıyla ilk kez somut bir rakama bağlandı.
50 Can Kaybı Eşiği ve "Fişi Çekme" Protokolü
Tasarının en çarpıcı maddesi, doğrudan insan hayatını merkeze alan acil durum (kill switch) protokolü oldu. Anthropic'in sunduğu yasa ve güvenlik çerçevesine göre; eğer bir yapay zekâ modelinin siber saldırılar, biyolojik/kimyasal silah üretim rehberliği veya kritik otonom sistem hataları yoluyla 50'den fazla kişinin hayatını kaybetmesine yol açabilecek bir risk taşıdığı veya bu kapasiteye ulaştığı tespit edilirse, o model derhal devre dışı bırakılacak. Sistemin fişi çekilecek ve güvenlik açıkları tamamen giderilene kadar modelin geliştirilmesi veya çalıştırılması yasaklanacak.
Risk Nasıl Tespit Edilecek?
Bu devasa riskin ölçümü için modellerin piyasaya sürülmeden önce zorunlu "kırmızı takım" (red teaming) testlerinden geçirilmesi öngörülüyor. Eğer model, kötü niyetli aktörlerin kitle imha silahları tasarlamasına yardımcı olabiliyor veya bir ülkenin enerji şebekesini çökertebilecek kodlar üretebiliyorsa, bu durum "kabul edilemez risk" kategorisine girecek. Şirketler, bu riskleri donanımsal ve yazılımsal olarak izole ettiklerini kanıtlamak zorunda kalacak.
Ekosistem İçin Ne İfade Ediyor? (Startup Bakış Açısı)
Anthropic'in bu hamlesi, teknoloji dünyasındaki rekabetin sadece "hız" üzerinden değil, "güvenilirlik" üzerinden de yürütüldüğünün en net kanıtı. OpenAI ve Google gibi devler model kapasitelerini hızla artırmaya odaklanırken, Anthropic bu tasarıyla yasa yapıcıların ve kamuoyunun gözünde "sorumlu yapay zekâ lideri" konumunu perçinliyor. Silikon Vadisi'ndeki bazı girişimciler ve yatırımcılar için bu tür sert regülasyonlar inovasyonu yavaşlatacak bir fren olarak görülse de; yapay zekânın kontrolden çıkma korkusunun zirve yaptığı bir dönemde belirlenen bu 50 kişilik baraj, gelecekteki küresel AI yasalarının (AI Act vb.) temel standartlarından biri haline gelebilir.