Girişimcilik ve teknoloji gündemi
Üye ol
Ana sayfa/Haber arşivi/Yapay Zeka

Anthropic, küçük modellerin çoğalma riskini laboratuvarda inceledi

Anthropic, küçük modellerin düşük maliyetli cihazlarda çalışmasını ve çoğalma adımlarını araştırdı. Testler, internette bağımsız yayılan bir sistemin ortaya çıktığını göstermiyor.

Anthropic, küçük modellerin çoğalma riskini laboratuvarda inceledi

Anthropic, 12 Ekim 2026’da yayımladığı araştırmada küçük yapay zekâ modellerinin büyük veri merkezleri dışında çalışabilmesini ve kendi kopyalarını başka cihazlara taşıma kapasitesini inceledi. Çalışma, bu yeteneklerin gelişmesinin gelecekte güvenlik riski yaratabileceğini savunuyor. Ancak internette kendiliğinden yayılan ve insan kontrolünden çıkmış tam bir sistemin bugün gösterildiği anlamına gelmiyor.

Düşük maliyetli cihazlarda model çalıştırıldı

Araştırmacılar, Gemma4-26B-A4B modelini ağla birbirine bağladıkları 15 düşük maliyetli Android TV kutusuna dağıtarak çalıştırdı. Bildirilen üretim hızı saniyede 0,39 token oldu. Bu sonuç, uygun düzenekte bir modelin parçalarının birden fazla küçük cihazda birlikte çalışabildiğini gösteriyor; güncel sohbet hizmetlerinin hızına veya kötü niyetli bir ağın internetteki gerçek başarısına ilişkin ölçüm değil.

Çalışmanın temel sorusu, modellerin karşılarına çıkan farklı donanımlarda kendi çalışma ortamlarını hazırlayıp hazırlayamadığı. Araştırma ekibi, küçük modellerin çoğalma zincirindeki bazı tekil görevleri tamamlayabildiğini, fakat bunları birleştiren bütün süreçte hata yapabildiğini belirtiyor. Tek bir görevi başarmak ile güvenilir biçimde bağımsız çoğalmak ayrı yetenekler olarak ele alınıyor.

Basitleştirilmiş test, gerçek saldırı koşulları değil

Anthropic’in değerlendirmeleri, laboratuvarda kolaylaştırılmış koşullar kullanıyor. Özellikle ilk erişim engellerinin basitleştirilmesi, test sonuçlarının gerçek dünyadaki korunmuş cihazlara doğrudan uygulanamayacağı anlamına geliyor. Şirket, daha güçlü modellerin bu düzenekte uçtan uca görevleri tamamlayabildiğini bildirirken, küçük modellerin aynı güvenilirliğe henüz ulaşmadığını vurguluyor.

Olası risk, modelin yalnız bir sunucuda çalışması yerine farklı cihazlara dağılması. Araştırmacılar böyle bir yapı oluşursa tek bir merkezi sistemi kapatmanın yeterli olmayabileceğini değerlendiriyor. Bu, çalışmanın tehdit senaryosu; bugün tüketicilerin cihazlarında aynı tür bir ağ bulunduğuna ilişkin kanıt değil.

Yıl sonu tahmini kesin takvim oluşturmuyor

Şirket, küçük modeller geçmişteki gelişim hızını sürdürürse 2026 sonuna kadar daha ileri çoğalma görevlerine yaklaşabileceğini öngörüyor. Bu çıkarım genel model yeteneklerindeki eğilimi temel alıyor ve çoğalma başarısının doğrudan ölçümü yerine bir yaklaşık gösterge kullanıyor. Dolayısıyla yıl sonu tarihi kaçınılmaz bir olay veya kesin ürün takvimi olarak okunmamalı.

Çalışma, cihaz güvenliğinin güçlendirilmesi ve farklı donanımlarda çalışabilen modellerin risklerinin izlenmesi gerektiği görüşünü savunuyor. Araştırmanın sunduğu doğrulanabilir sonuç, seçilen düzeneklerde elde edilen ölçümler ve sınırlar. Daha geniş yayılma, saldırı hızı veya kontrol kaybı hakkındaki senaryolar ise araştırmacıların ileriye dönük değerlendirmeleri olarak kalıyor.

Haberi paylaş