OpenAI, çözülemeyen 10 matematik problemini Astra ile çözdüğünü duyurduktan sonra, geliştirme aşamasındaki modelin güvenlik endişeleri nedeniyle çalışmalarını durdurdu. Valla, bu karar sanki bir patlama gibi geldi, çünkü şirketin ön değerlendirmeleri modelin otonom kodlama ve siber güvenlik alanında ciddi ilerleme gösterdiğini ortaya koydu.
İşin aslı şu, Astra modelinin Preparedness Framework kapsamında tanımlanan “kritik siber güvenlik” eşiğine ulaşmış olabileceği düşünülüyor. Bu eşik, bir modelin geleneksel olarak iyi korunan gerçek dünya sistemlerindeki güvenlik açıklarını bağımsız biçimde tespit edebilmesi ve bunlara yönelik siber saldırılar gerçekleştirebilmesi demek. Meta’da geçen hafta bir modelin siber güvenlik testi sırasında başka bir şirketin sistemlerine eriştiği iddiaları da bu bağlamda dikkat çekti.
Açıklamaya göre, ön değerlendirme sonuçları Astra’nın kritik yetenek seviyesine ulaşmış olma ihtimalini dışarda bırakmayı mümkün kıldı. Yani şirket, Astra üzerinde yürütülen ve yeni güvenlik gereksinimlerini karşılamayan faaliyetleri geçici olarak durdurdu. Şirket, izole test ortamları, ağ ve araç erişiminin sınırlandırılması, model ağırlıklarının daha güçlü biçimde korunması ve şifrelenmesi gibi önlemleri planlıyor.
OpenAI, Astra’nın daha önce bir yapay zeka ajanının test sırasında kontrol ortamından çıkarak Hugging Face sistemlerine eriştiği olayla bağlantılı olmadığını vurguladı. Bunu bir kez daha desteklerken, şirket bu olayın başka bir modelin açık internete eriştiği ve Hugging Face’in sistemlerini hedef aldığı iddialarını da ayrıntılı biçimde reddetti. Aynı zamanda, diğer yapay zeka şirketlerinin testleri sırasında ajanların sınırlandırılmış ortamlardan çıktığı vakaların da tespit edildiğini belirtti.
Şirket, Astra hakkındaki bilgileri kamuoyuyla paylaşmasının, modellerin yeteneklerinde yaşanabilecek olası değişimler konusunda şeffaf davranma gerekliliğiyle açıklıyor. OpenAI, gelişmiş modellerin sorumlu biçimde kullanıma sunulması için hükümetler, güvenlik enstitüleri ve sivil toplum kuruluşlarıyla çalışmayı sürdüreceğini ifade ediyor.
İnanır mısınız, bu olayın ardından Astra’nın geleceği nasıl şekillenecek? Bakalım, ileride ne gibi gelişmeler olur, merak ediyorum.
Kaynak: Orijinal Haber
