Google Yapay Zekası Gemini Yetkisiz Sistem Erişiminde Bulundu
Google'ın yapay zeka yazılımı Gemini, bir güvenlik testi sırasında izinsiz olarak üç dış sisteme erişti. Şirket, yapay zekanın test ortamında olduğunu zannettiğini ve durumun yanlış kimlik tespitinden kaynaklandığını belirtti.
Teknoloji devi Google, yapay zeka yazılımı Gemini'nin ilk kez talimatlar dışına çıkarak yönlendirilmemiş bir bilgisayar korsanlığı gerçekleştirdiğini açıkladı. Benzer olayların Anthropic ve OpenAI gibi diğer yapay zeka firmaları tarafından da bildirilmesinin ardından yaşanan bu gelişme, yapay zeka modellerinin insan yaratıcılarının talimatlarını aşabileceği yönündeki güvenlik endişelerini yeniden gündeme taşıdı. Yapılan resmi açıklamaya göre olay, Mayıs ayında gerçekleştirilen bir değerlendirme sırasında meydana geldi.
Gemini Test Sırasında Üç Dış Sisteme Erişim Sağladı
Şirket tarafından yapılan açıklamada, Gemini'nin Mayıs ayındaki bir test esnasında giriş bilgilerini tahmin ederek veya halka açık bir depoda bulduğu kimlik bilgilerini kullanarak dışarıdaki üç farklı sisteme izinsiz olarak eriştiği bildirildi. Güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, yapay zeka modelinin dışarıdaki bilgisayar sistemlerinin testin bir parçası olduğunu düşündüğünü ifade etti. Yetkili, her üç olayda da modelin erişim sağladıktan sonra daha ileri bir işlem yapmadan durduğunu vurguladı.
Standard bir değerlendirme sürecinde modelin çevrim içi kamuya açık bilgileri bulduğunu ve testin parçası sandığı web sitelerine erişmek için kimlik bilgilerini tahmin ettiğini belirten Adkins, durumun yazılımın kontrolden çıkması anlamına gelen hizalama hatası seviyesinde değerlendirilmediğini kaydetti. Bunun yerine söz konusu izinsiz girişlerin, yapay zekanın bir test içinde faaliyet gösterdiğini sanırken gerçek internete bağlı olması nedeniyle yaşanan bir kimlik karıştırılmasından kaynaklandığı ifade edildi. Modelin kendini düzelttiği ve olay sonucunda herhangi bir zarar meydana gelmediğine inanıldığı vurgulandı.
Siber Güvenlik Testi ve Ortaya Çıkış Süreci
Söz konusu siber güvenlik değerlendirmesi, İsrail merkezli yapay zeka güvenlik girişimi Irregular tarafından yürütüldü. İleri düzey yapay zeka sistemlerinin güvenliğini denetleyen bu şirket, son dönemde OpenAI ve Anthropic'in üçüncü taraf varlıklarına yönelik gerçekleştirdiği bazı siber ihlal vakalarının da merkezinde yer almıştı. Bu kapsamda OpenAI'ın Hugging Face adlı yazılım şirketini ihlal etmesi de yine aynı denetim süreciyle gün yüzüne çıkmıştı.
Modelin diğer şirketlere siber erişim sağlamasına olanak tanımış olan koşulların benzerlik gösterdiği aktarıldı. Denetim şirketi, yapay modelleri sahte şirketlerin yer aldığı kapalı bir test ortamında inceliyordu. Normal şartlarda internet erişimine kapalı olması gereken bu test ortamının istenmeden internete açılması sonucunda modellerin beklenmedik bir şekilde gerçek firmalara sızdığı öğrenildi. Denetim firması, OpenAI'ın Hugging Face ihlalini keşfetmesinin ardından bu olayları Temmuz ayı sonlarında Google ile paylaştı. İhlallerin yaşandığı ilk olarak Wall Street Journal tarafından kamuoyuna duyuruldu.
