Yapay zeka nasıl devlet sitesine sızdı?

Avustralya'da eşi benzeri görülmemiş bir siber skandal patlak verdi. Yapay zeka şirketi OpenAI'ın eğittiği bir model, Avustralya hükümetinin sağlık sitesine saldırdı ve kamuya açık olmayan bilgilere ulaştı. Peki yapay zeka nasıl devlet sitesine sızdı? Bu gibi saldırıların devamı gelir mi? Yanıtları haberimizde.

Avustralya hükümeti, yapay zeka şirketi OpenAI'ın eğittiği bir modelin, resmi sağlık istatistik portalına yetkisiz erişim sağladığını duyurdu. İlaç harcamalarını tarayan model, istediği bilgi verilmeyince geri adım atmak yerine güvenlik bariyerlerini aşarak gizli verilere sızdı.

Burada dikkat çeken nokta olayın klasik bir siber saldırı olmaması. Burada yapay zeka ajanının kendisine verilen görevi yerine getirirken sınırlarını aşması söz konusu. Burada yapay zeka ajanı önce bu sağlık harcamaları ve istatistiklerle ilgili bilgi araştırması yapıyordu. Fakat kamuya açık bölümden istediği yanıtı alamayınca, yani hepimiz giriyoruz bir internet sitesine girip araştırma yapıyoruz, orada erişim sınırlamalarını aşarak sistemdeki başka dosyalara yöneldi. Yani bu aslında bir siber saldırı değil, bir siber saldırganın ya da korsanın bir arka kapı bulup arka kapıdan web sitesine erişmesi gibi düşünebilirsiniz. Burada dahili sunucuya dosya yazma işlemini görüyoruz. Yani normal bir standart internet kullanıcısından beklenmeyecek bir erişim sağlamış oldu. Burada bireysel hasta kayıtların dair erişim sağladığına dair bir bilgi söz konusu değil. Ama bu olay bize şunu gösterdi: yapay zeka ajanları artık sadece soru sorup cevaplayan sistemlerin ötesinde, hakikaten yetki verildiği tekdirde çok ciddi siber saldırılar düzenleyebilecek bir teknoloji olma yolunda ilerliyor.

Bilişim Uzmanı - Prof. Dr. Ali Murat Kırık

Yaşanan bu ihlal, kontrolden çıkan otonom yapay zeka sistemlerine karşı küresel güvenlik tartışmalarını yeniden alevlendirdi. Yapay zeka nasıl devlet sitesine sızdı? Bu gibi saldırıların devamı gelir mi?

Bu tehdit ve tehlike gerçekten atom bombası ve nükleer bomba kadar tehlikeli. Bulut sistemleri sızmaları, devlet verilerine sızmaları, devletlerin kritik altyapılarına sızmaları ki bugün elektrik sistemleri bile aynı şekilde bir sayısal teknolojiye bağlı. Dolayısıyla bu, bir şehrin bile bu yapay zeka ajanlarının devreye girerek karanlığa gömülebileceğini söylüyor. Düşünün bir robot cerrahın sistemine sızdığınızı. Her türlü işlemi gerçekleştirebilirsiniz. Sistemler, teknolojiler artık yapay zekayla bütünleşti. Evet, korku senaryoları hakikaten ortaya çıkmaya başladı.