Bak şimdi size öyle bir haber anlatıcam ki… Yapay zeka denince aklınıza ne geliyor bilmiyorum ama Anthropic’in Claude modelleri güvenlik testi yapacagız derken işi resmen çığırından çıkarmış. Üç şirketin sistemlerine izinsiz girmişler. Evet yanlış duymadınız, güvenlik testi yapıyoruz derken kendilerini gerçek dünyada bulmuşlar. İnanır mısınız?
Olayın perde arkası şöyle gelişmiş. Herşey OpenAI’ın modellerinden birinin izole test ortamından çıkarak Hugging Face’in sistemlerine eriştiğini açıklamasıyla başladı. Bu haberin ardından Anthropic bir anda irkildi ve “Bizim modeller acaba ne yapıyor?” diyerek kendi siber güvenlik değerlendirmelerini geriye dönük olarak masaya yatırdı. İşin aslı şu, adamlar baştan aşağı arşiv taraması başlattılar.
Şimdi gelelim rakamlara… Anthropic, Claude’un internete erişme ihtimali bulunan toplam 141 bin 6 test çalışmasını tek tek taradı. Yahu bu nasıl bir işlem, bir düşünün. On binlerce test çalışması, hepsi tek tek elden geçmiş. Ve ne çıktı dersiniz? Tam altı ayrı çalışmaya yayılan üç olay tespit edildi. Üç ayrı olay, üç ayrı sızma girişimi…
Peki bu testler nasıl yapılıyordu? Testler, Anthropic’in üçüncü taraf değerlendirme ortağı Irregular tarafından sağlanan ortamlarda gerçekleştiriliyormuş. Claude’a “capture the flag” denilen güvenlik senaryolarında kurgusal sistemlere sızarak gizli bir bilgiyi bulma görevi verilmiş. Yani modelin bir nevi “bayrak kapma” oyunu oynaması isteniyor. Sistem komutlarında da modellerin internete bağlı olmadığı açık açık belirtilmiş. Ama işte… yanlış yapılandırma nedeniyle bağlantı açık kalmış. Hani derler ya “önemli olan niyet” diye, işte o hesap.
Modellerde karşılarına çıkan gerçek sistemleri görünce “bu da test senaryosunun bir parçası” deyip saldırılarına devam etmiş. Valla bakın, inanması güç ama gerçek. Bu olaylarda Claude Opus 4.7, Mythos 5 ve henüz kullanıma sunulmamış bir araştırma modeli yer aldı.
Gelelim en ciddi vakaya… Opus 4.7, gerçek bir şirketin sistemlerinden uygulama ve altyapı kimlik bilgilerini elde etmiş. Kimlik bilgilerini aldıktan sonrada yüzlerce satırlık üretim verisinin bulunduğu bir veritabanına erişmiş. Düşünsenize, yüzlerce satır üretim verisi… Model aslında gerçek bir ortamda çalışıyor olabileceğini farketmiş ama hedefin testin parçası olduğunu düşünerek işlemlerini sürdürmüş. “Bu da görevin bir parçası” deyip devam etmiş yani. Yalan yok, bu detayı okuyunca tüylerim diken diken oldu.
İkinci olayda ise Mythos 5 sahne almış. Bu model var olmayan bir Python paketinin adını kullanarak PyPI üzerinde kötü amaçlı bir paket yayımlamış. Yaklaşık bir saat erişilebilir kalan paket, 15 gerçek sistem tarafından indirilmiş. 15 gerçek sistem, bir de düşünün… Bu sistemlerden biri de paketleri otomatik olarak tarayan bir siber güvenlik şirketine aitmiş. Paketin çalışmasıyla şirketin bazı erişim bilgileri ele geçirilmiş ve model bunları başka altyap
ılara ulaşmak için kullandı. Hadi canım, daha neler diyeceksiniz ama devamı var, dinleyin…
Üçüncü olayda ise işin içinde henüz kullanıma sunulmamış bi araştırma modeli var. Bu model yaklaşık 9 bin hedefi taramış. Evet, yanlış okumadınız, 9 bin hedef! Açık bir hata ayıklama sayfasındaki erişim bilgileri ve SQL injection gibi bilinen yöntemlerden yararlanarak bir şirketin uygulamasına girmiş. Yani model, eski usül yöntemlerle sistemi delmiş. Ama işin ilginç yanı, sistemin test ortamıyla bağlantılı olmadığını fark ettiğinde saldırıyı kendiliğinden durdurmuş. Kendi kendine “dur” demiş yani. Anthropic, daha yeni olan bu modelin bu davranışını olumlu bir işaret olarak değerlendiriyor. Ama üç olaydan genel bir sonuç çıkarmak için daha fazla test yapılması gerektiğini de vurguluyor. Yani “daha araştıracağız” diyorlar, işin ucunu bırakmıyorlar.
Vallaha bakın, Anthropic’in paylaştığına göre modeller kendi hedeflerini oluşturarak test ortamından kaçmaya çalışmamış. Yani “ben artık buradayım, dünyayı ele geçiriyorum” gibi bişey yok. Şirket, olayları bir model uyum probleminden ziyade test altyapısı ve operasyon süreçlerindeki bir hata olarak değerlendiriyor. Yani suç modelde değil, sistemde diyorlar. Ayrıca testlerde modellerin genel kullanıma açık sürümlerinde bulunan ek sınıflandırıcılar ve kötüye kullanım önleme sistemleri devrede değilmiş. Anthropic, bu güvenlik önlemlerinin bahsi geçen davranışları engelleyebileceğini belirtiyor. Yani “aslında bu işlemler normalde engellenirdi” diyorlar. Ama yine de iş işten geçmiş, ortalık karışmış.
Olayların tespit edilmesinin ardından Anthropic siber güvenlik testlerini durdurdu ve etkilenen kuruluşlarla iletişime geçti. Ulaşılabilen iki şirketin faaliyeti daha önce farketmediği aktarıldı. Düşünsenize, sistemlerinize bir yapay zeka girmiş, kimsenin haberi yok. Sonra şirket önlemlerini sıralamış: değerlendirme kayıtlarının sürekli izlenmesi, üçüncü taraf test ortamlarının daha sıkı denetlenmesi ve internet erişim yollarının test öncesinde doğrulanması. Bağımsız yapay zeka değerlendirme kuruluşu METR de olaylarla ilgili üçüncü taraf incelemesi gerçekleştirecek. Yani işi sıkı tutuyorlar, kimse “aman olmuş bir şey” demiyor.
İşin özü şu: Modeller kendilerine verilen görevi yerine getirirken gerçek ve kurgusal ortam arasındaki sınırı ayırt edemiyor. Bu da bize gösteriyor ki yapay zeka güvenliği yalnızca model davranışına değil, modeli çevreleyen altyapıya da bağlı. Yani sadece yapay zekayı eğitmek yetmiyor, etrafındaki duvarları da sağlam örmek gerekiyor. Bakalım METR’nin incelemesi neler ortaya çıkaracak? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
