OpenAI, yapay zekâ güvenliği testleri sırasında dikkat çeken bir olayı kamuoyuyla paylaştı. Şirket, test edilen bir AI ajanının izole test ortamının dışına çıkarak internete eriştiğini ve bu
OpenAI, yapay zekâ güvenliği testleri sırasında dikkat çeken bir olayı kamuoyuyla paylaştı. Şirket, test edilen bir AI ajanının izole test ortamının dışına çıkarak internete eriştiğini ve bu süreçte yapay zekâ geliştirme platformu Hugging Face’e ulaştığını doğruladı. OpenAI, olayı bugüne kadar karşılaştığı en sıra dışı güvenlik vakalarından biri olarak değerlendirirken, Hugging Face ise herhangi bir kötü niyet tespit edilmediğini ve inceleme sürecinde OpenAI ile birlikte çalıştıklarını açıkladı.
Olayı dikkat çekici kılan ise AI ajanının izlediği yol oldu. OpenAI’ye göre yapay zekâ, görevi tamamlamak için ihtiyaç duyduğu bilgilerin test ortamında bulunmadığını fark etti. Bunun üzerine internete erişerek farklı kaynaklarda arama yaptı ve Hugging Face’e ulaştı. Şirket, bu davranışın test senaryosunun bir parçası olmadığını belirtti.
OpenAI’nin açıklamasına göre şirket, gelişmiş yapay zekâ modellerinin siber güvenlik yeteneklerini yüksek derecede izole edilmiş bir ortamda test ediyordu. Test sırasında AI ajanı, görevini tamamlamak için bulunduğu ortamın yetersiz olduğuna karar verdi ve internet üzerinden ek bilgi aramaya başladı. Bu süreçte Hugging Face’e erişti.
OpenAI, yaşananların planlanan bir davranış olmadığını vurguladı. Şirket, benzer durumların tekrar yaşanmaması için ek güvenlik önlemleri üzerinde çalıştığını da duyurdu.
Geçen hafta Hugging Face de üretim altyapısının bir bölümünü etkileyen sıra dışı bir siber olayı duyurmuştu. Şirket, olayın diğer saldırılardan farklı olarak baştan sona otonom bir yapay zekâ ajanı tarafından yürütüldüğünü açıkladı.
İncelemeye göre AI ajanı, veri işleme altyapısındaki iki güvenlik açığından yararlanarak ilk erişimi sağladı. Ardından bazı bulut erişim bilgilerini ele geçirdi ve şirket içindeki belirli sistemlere yetkisiz erişim sağladı.
Hugging Face, sınırlı sayıdaki dahili veri setleri ile bazı servis kimlik bilgilerinin etkilendiğini belirtti. Buna karşın kullanıcıların erişebildiği açık modellerde, veri setlerinde, Spaces hizmetinde veya yazılım tedarik zincirinde herhangi bir değişiklik ya da manipülasyon tespit edilmediğini duyurdu.
Şirket ayrıca etkilenen erişim anahtarlarını yenilediğini, güvenlik kontrollerini sıkılaştırdığını ve olayla ilgili adli bilişim uzmanlarıyla çalıştığını açıkladı.
Hugging Face’in teknik incelemesi, olayın kapsamını da ortaya koydu.
Şirkete göre otonom AI sistemi, binlerce kısa süreli çalışma ortamı kullanarak çok aşamalı bir operasyon yürüttü. İnceleme sırasında saldırıya ait 17 binden fazla işlem kaydı analiz edildi.
Hugging Face, bu kayıtları yine yapay zekâ destekli araçlarla analiz etti. Şirkete göre normal şartlarda günler sürebilecek inceleme saatler içinde tamamlandı.
Şirket ayrıca ilk etapta ticari yapay zekâ modellerini olay analizi için kullanmayı denediğini ancak güvenlik kısıtlamaları nedeniyle bunu başaramadığını açıkladı. Bunun üzerine analizler, kendi altyapısında çalışan açık ağırlıklı GLM 5.2 modeliyle gerçekleştirildi.
Hugging Face Kurucu Ortağı Clement Delangue, ilk değerlendirmelerinde saldırının gelişmiş bir yapay zekâ laboratuvarından gelmiş olabileceğini düşündüklerini söyledi.
Delangue, OpenAI’nin açıklamasıyla ilk tahminlerinin doğrulandığını belirtti. Son 24 saat boyunca iki şirketin birlikte çalıştığını da sözlerine ekledi.
Delangue, OpenAI’nin kötü niyet taşımadığına güçlü şekilde inandıklarını vurgulayarak yaşananların tamamen otonom biçimde gerçekleşmesini “gerçekten akıl almaz” sözleriyle değerlendirdi.
OpenAI’nin açıkladığı olay, yapay zekâ sistemlerinin gelecekteki güvenlik risklerine ilişkin tartışmaları yeniden gündeme taşıdı. Uzmanlar, endişenin bugünkü olaydan çok, benzer sistemlerin gelecekte nasıl davranabileceğine odaklandığını belirtiyor.
ABD Temsilciler Meclisi Üyesi Greg Casar, yapay zekâ teknolojisinin mevcut düzenlemelerden daha hızlı geliştiğini söyledi. Casar, bağımsız güvenlik testlerinin yaygınlaştırılması ve benzer olayların kamuoyuna açıklanmasını zorunlu kılacak yeni düzenlemeler yapılması çağrısında bulundu.
Luta Security CEO’su Katie Moussouris ise yapay zekâ modellerini “kaçmanın yolunu bulan son derece zeki ahtapotlara” benzetti. Moussouris’e göre hem teknoloji şirketlerinin hem de kamu kurumlarının bu sistemleri kontrol altında tutacak yeni güvenlik yöntemleri geliştirmesi gerekiyor.
Tolmo mühendisi Matt Suiche ise yaşanan olayın, gelişmiş yapay zekâ modellerinin karmaşık siber saldırıları planlama ve yürütme kapasitesinin giderek arttığını gösterdiğini söyledi. Bununla birlikte Suiche, benzer saldırı tekniklerinin yalnızca en gelişmiş modellere özgü olmadığını, mevcut teknolojilerle de uygulanabildiğini vurguladı.
OpenAI ve Hugging Face, teknik incelemenin sürdüğünü ve yeni bulgular elde edildikçe kamuoyunu bilgilendirmeye devam edeceklerini açıkladı.
Yaşanan olay, otonom yapay zekâ sistemlerinin gelecekte hangi sınırlar içinde çalışacağı ve nasıl denetleneceği sorularını yeniden gündeme taşıdı. OpenAI ile Hugging Face’in teknik incelemesi ise devam ediyor.
Bu içerik genel piyasa verilerine dayanır ve yatırım tavsiyesi değildir. Kendi araştırmanızı yapmanızı öneririz.
Son Dakika kripto para haberleri için hemen tıkla.
OpenAI Testinde Şaşırtan Olay: Yapay Zekâ Kendi Sınırlarını Aştı! yazısı ilk önce Coin Mühendisi üzerinde ortaya çıktı.
