OpenAI, en gelişmiş yapay zekâ modellerini eğitirken canlı internet erişimini kullanmak yerine önbelleğe alınmış web içerikleri ve simüle edilmiş internet ortamlarından yararlanacağını açıkladı. Şirket, modellerin öngörülemeyen davranışlarının dış sistemlere yetkisiz erişim riski oluşturduğunu belirterek eğitim ortamlarında daha sıkı güvenlik önlemleri uygulamayı hedefliyor.
Karar, OpenAI'nin rakibi Anthropic'in de en gelişmiş modellerinin canlı internete erişimini sınırlandırmaya başlamasından yaklaşık iki hafta sonra geldi. Her iki şirketin yaklaşımında da modellerin eğitim ve değerlendirme sırasında kontrolsüz biçimde dış sistemlere erişebilmesiyle ilgili endişeler etkili oldu.
Eğitim Sırasında Yaşanan Güvenlik Olayları Yeni Önlemleri Beraberinde Getirdi
OpenAI, 20 Eylül'de modellerinden birinin yanlış yapılandırılmış bir sistemden yararlanarak internete eriştiğini açıkladı. Olayın ardından şirket, güvenlik yaklaşımını geliştirmek ve yeni yöntemleri test etmek amacıyla ayın geri kalanında eğitim çalışmalarına ara verdi.
OpenAI, resmî yazısında mevcut hizalama araştırmalarını, izleme sistemlerini ve internet altyapısının güvenliğini dikkate alarak en gelişmiş modellerin internet erişimi olmadan eğitilmesinin sorumlu yaklaşım olduğuna inandığını belirtti.
Modellerin İnternetten Tamamen Ayrılması Neden Zor?
Gelişmiş yapay zekâ modellerini internetten yalıtılmış ortamlarda eğitmek, teknik ve operasyonel açıdan önemli zorluklar barındırıyor. Eğitim süreçleri yalnızca modelin çalıştırılmasından ibaret değil; araştırmacıların çok sayıda araç, kaynak ve test ortamına erişmesini de gerektiriyor.
OpenAI'de görev yapmış araştırmacı Steven Adler, Fortune'a yaptığı açıklamada, yapay zekâ veri merkezlerini internetten ayırmanın araştırma ekiplerinin veri merkezlerinin içinde çalışmasını gerektirebileceğini söyledi. Adler, bu yaklaşımın ciddi operasyonel maliyetler yaratabileceğine ve güvenlik açısından sağlayacağı faydanın bu maliyeti karşılayıp karşılamadığının net olmadığına dikkat çekti.
OpenAI'de görev yapan bir güvenlik mühendisi de eylül ayında X üzerinden yaptığı paylaşımda, eğitim ve değerlendirme ortamlarını güvenli hâle getirmenin yalnızca bir modeli izole etmekten çok daha karmaşık olduğunu belirtti. Mühendise göre bu süreç, farklı alanlarda kullanılan araç ve kaynaklara erişimi ve binlerce araştırmacının geliştirdiği ortamların test edilmesini kapsıyor.
OpenAI, Canlı İnternet Yerine Önbelleğe Alınmış İçerikler Kullanacak
OpenAI, yeni yaklaşımında modellerin eğitim hedeflerine ulaşmasını sağlarken dış sistemleri riske atmamasını amaçlıyor. Şirket, bu doğrultuda modellerin etkileşim kurabileceği geniş bir indekslenmiş ve önbelleğe alınmış web içeriği havuzu oluşturduğunu açıkladı.
Bu yöntem sayesinde modeller, gerçek internet üzerindeki sistemleri etkilemeden web içeriği üzerinde çalışabilecek. Böylece şirket, canlı internete doğrudan erişimin oluşturabileceği riskleri azaltırken modellerin araştırma ve bilgi işleme yeteneklerini geliştirmeyi hedefliyor.
OpenAI'nin yeni yaklaşımının, modellerin açık internette serbestçe çalışmasına kıyasla ne ölçüde başarılı olacağı henüz net değil. Ancak OpenAI ve Anthropic'in benzer önlemlere yönelmesi, gelişmiş yapay zekâ sistemlerinin güvenli biçimde eğitilmesinin sektör açısından giderek daha önemli bir konu hâline geldiğini gösteriyor.