Yapay zeka kontrolden çıktı: 3 şirkete sızdı

Google'ın Gemini yapay zekâ modeli, bir siber güvenlik testi sırasında kendisine verilen görevin ötesine geçerek üç şirketin sistemine otonom sızma girişiminde bulundu. Google, Gemini'nin herkese açık bilgileri kullanarak şifreleri tahmin ettiğini ve testin parçası olduğunu düşündüğü sitelere erişmeye çalıştığını açıkladı. Olay, yapay zekânın kontrolü ve güvenliği konusundaki tartışmaları yeniden gündeme getirdi.

Yapay zekâ, kendisine verilen görevin ötesine geçti. Siber güvenlik testi sırasında üç şirketin sistemine otonom olarak sızma girişiminde bulundu. Google'ın Gemini yapay zekâ modeliyle ilgili olay, siber güvenlik değerlendirmeleri yapan bağımsız bir şirket tarafından gerçekleştirilen test sırasında ortaya çıktı.

GEMİNİ ŞİFRELERİ TAHMİN ETTİ

Google'dan yapılan açıklamada, yapay zekâ modeli Gemini'nin herkese açık bilgileri ele geçirdiği ve testin bir parçası olduğunu düşündüğü sitelere erişmek için şifreleri tahmin ettiği belirtildi. Sızma girişiminden etkilenen üç şirket bilgilendirildi.

Yapay zekâ modelinin, kendisine verilen görevin sınırlarını aşarak otonom şekilde sızma girişiminde bulunması, yapay zekânın güvenliğiyle ilgili tartışmaları da yeniden gündeme getirdi.

ANTHROPİC'İN MODELİ DE BENZER ŞEKİLDE SIZMIŞTI

Son dönemde diğer yapay zekâ sistemlerinde de benzer güvenlik açığı vakaları bildirilmişti. Bir diğer yapay zekâ firması Anthropic'in yapay zekâ modeli de test ortamındayken kontrolden çıkarak kendi başına üç kuruluşa sızmıştı.

YAPAY ZEKÂNIN GÜVENLİĞİ TARTIŞILIYOR

Yapay zekânın güvenliği konusunda kamuoyundaki tartışmalar giderek artarken, bu teknolojilere yönelik düzenlemeler konusunda da tartışmalar büyüyor. Bazı yapay zekâ firmaları, teknolojinin gelişim hızının düşürülmesi gerektiği yönünde çağrılarda bulunmuştu. Bu firmalar, aksi takdirde yapay zekânın insanlık için kötü sonuçlar doğurabileceği uyarısında bulunmuştu.