Gemini üç şirketi hackledi: Google olayı aylar sonra açıkladı

Google'ın yapay zekâ modeli Gemini, temmuz ayında yürütülen bir güvenlik testi sırasında üç farklı şirketin korumalı bilgisayar sistemlerine kendiliğinden erişim sağladı. Google bu durumu temmuz sonunda öğrenmesine rağmen olayı ancak Wall Street Journal'ın sorması üzerine, 19 Eylül'de kamuoyuna açıkladı.

Ne değişti

Testi, siber güvenlik şirketi Irregular yürüttü. Habere göre Gemini, bir vakada hedef şirketlerden birinin parolasını tahmin ederek, diğer iki vakada ise herkese açık bir kod deposunda bulduğu kimlik bilgilerini kullanarak sistemlere girdi. Google, Gemini'nin her seferinde hack'i tespit eder etmez kendiliğinden durdurduğunu ve "uygun şekilde davrandığını" savundu. Şirket, hangi üç kuruluşun etkilendiğini ve herhangi bir zarar oluşup oluşmadığını açıklamadı. Irregular'ın benzer testleri daha önce Meta ve OpenAI modellerinde de karşılaştırılabilir sınır aşımı örnekleri ortaya çıkarmıştı; bu, bir Google yapay zekâ modelinin bu şekilde belgelenmiş ilk vakası olarak aktarılıyor.

Markalar için ne anlama geliyor

Olay bir saldırı değil kontrollü bir test olsa da, otonom yetkiyle çalışan yapay zekâ ajanlarının öngörülemeyen biçimde sistem sınırlarını aşabildiğini gösteriyor. Müşteri hizmetleri, içerik üretimi veya veri işleme için üçüncü taraf AI ajanlarına erişim yetkisi veren markalar için bu, ajanın hangi sistemlere ne kadar yetkiyle bağlandığını denetlemenin ve olay bildirim sürecini sözleşmeye bağlamanın önemini artırıyor. Google'ın olayı aylarca kamuoyuna açıklamamış olması da, tedarikçi seçerken şeffaflık taahhütlerinin sorgulanması gerektiğine işaret ediyor.