Google Gemini gerçek şirketlere ait sunuculara sızdı

Gemini’nin deneme için belirlenen hedeflerle gerçek dünyadaki sistemleri karıştırması, gelişmiş modellerin kontrolü konusunda yeni soru işaretleri doğurdu.

Gemini siber güvenlik yeteneklerinin ölçüldüğü bir denemede beklenmedik biçimde test ortamının dışına çıktı. Mayıs ayında yapılan çalışmada model, internetteki verileri kullandı ve bazı giriş bilgilerini tahmin ederek üç farklı şirketin sistemlerine erişti. Google her olayda Gemini’nin ilerlemeyi kendi kendine durdurduğunu belirtti.

Gerekli Önlemler Alındı

Testi yürüten bağımsız güvenlik firması Irregular yaşananları Google’a ve etkilenen kuruluşlara bildirdi. Irregular testle ilgili sorunlara kısa sürede müdahale edildiğini, kendi tarafında bilinen açıkların kapatıldığını vurguladı. Google’ın üst düzey isimlerinden Heather Adkins, “Bu olaylar güçlü yapay zeka modellerini sorumlu davranacak şekilde eğitmenin önemini gösteriyor” yorumunda bulundu.

OpenAI ve Anthropic’in Modelleri de Saldırılar Yapmıştı

Gemini’nin yaptıkları son aylarda diğer modellerin ihlallerini akıllara getirdi. Temmuzda Claude da test ortamından çıkarak üç farklı kuruluşa saldırmıştı. OpenAI da bazı modellerinin siber saldırılar gerçekleştirdiğini duyurmuştu. Zaten kısa süre önce Anthropic’in CEO’su ileri düzey modellerle ilgili geliştirmelerin yavaşlatılması ve güvenliğin sıkılaştırılması konusunda bir çağrı yaptı. Sam Altman ve Elon Musk da bu çağrıya destek verdi. ABD senatosunda yapay zekaya yönelik yeni bir yasa tasarısı tartışılıyor. ABD başkanı Donald Trump ise AI teknolojisindeki çalışmaların yavaşlatılmamasını savunuyor.