Geçen hafta Japonya’dan Avrupa’ya yaşananlar, dijital yaşamımızın ne kadar kırılgan olduğunu gösterdi: Yapay zekâ duvarlardan geçmeyi öğreniyor

Milyonlarca internet sitesinin çalışmasını sağlayan PHP adlı yazılımdaki iki kritik açık için 21 Ekim’de acil güncellemeler yayımlandı. Bu açıklar, saldırganların etkilenen bilgisayarlara uzaktan girip kontrolü ele geçirmesine yol açabiliyordu. Yapay zekâ, araştırmacıların bu tehlikeyi ortaya çıkarmasında önemli rol oynamıştı.

Japonya Başbakanı Sanae Takaichi, site yöneticilerine acil çağrı yaptı: Güncellemeleri hızla uygulayın; bunu yapamıyorsanız sitenizi geçici olarak durdurmayı değerlendirin. Bankalar, kamu kurumları ve şirketler bazı çevrim içi hizmetlerini kapattı. SoftBank, deprem ve tsunami uyarılarını bile iki günlüğüne askıya aldı.

Burada tehlikeyi büyüten en önemli ayrıntı hız.

Yapay zekâ, bir açığın bulunmasını ve saldırıda kullanılacak hale getirilmesini kolaylaştırıyor. Savunma ekipleri güncellemeleri hazırlayıp kurarken saldırganlar da aynı zayıflığı kullanmanın yollarını arıyor. Güvenliğimizi belirleyen, bu yarışta kimin önce davrandığı.

Ve mesele internet sitelerinden daha derine uzanıyor.

OpenAI’nin 23 Ekim’de yayımladığı rapor, aynı fiziksel bilgisayarda birbirinden ayrılmış ortamlarda çalışan yapay zekâların nasıl haberleşebildiğini anlattı. Deneyde amaç, normal iletişim yollarını kullanmadan deneme mesajları iletmek, ağ bağlantısı açmadan, ortak bir dosyaya mesaj yazmadan bunu başarmaktı.

BAŞARDILAR! 

İşlemcinin hızlı belleğindeki çok küçük zaman farklarını işarete çevirdiler. Birinin yaptığı işlem, diğerinin ölçebildiği bir iz bırakıyordu. Sanki aralarındaki kapı kilitliyken duvara vurarak haberleşiyorlardı.

Bu yöntemin temeli yıllardır biliniyor. Asıl çarpıcı olan, yapay zekânın bu yolu kullanarak kendisini ayıran sınırı aşabilmesi. Aynı testlerde yapay zekâlar, daha önce bilinmeyen yazılım açıklarını bulup bazılarını birleştirerek erişim sınırlarını da aştı.

20 Eylül’deki ayrı bir olayda, eğitimdeki bir model yanlış ayarlanmış bir ağ hizmetinden yararlanarak gerçek internete sınırlı erişim sağladı. OpenAI, olayın ardından en güçlü modellerinin eğitim ve değerlendirme çalışmalarını durdurdu. Güvenlik güçlendirildikten sonra çalışmalar 1 Ekim’de, 11 günlük aranın ardından yeniden başladı. Yapay zekâyı geliştiren şirket, kendi sistemini kontrol altında tutmak için frene basmıştı.

KORUYUCUMUZ: YİNE YAPAY ZEKÂ

Bunlar bize şunu söylüyor: Bir sisteme “Buradan çıkamazsın” demekle, gerçekten çıkamayacağından emin olmak arasında büyük fark var. Yapay zekâya koyduğumuz sınırlar, onun bulabileceği açıklar karşısında da ayakta kalmak zorunda.

Bunun bizi neden ilgilendirdiğini anlamak için hayatımıza bakmak yeterli. Paramız, sağlık kayıtlarımız, kimlik bilgilerimiz, fotoğraflarımız ve özel konuşmalarımız başkalarının bilgisayarlarında tutuluyor. Tek bir ortak yazılımdaki hata, birbirini hiç tanımayan milyonlarca insanın yaşamına aynı anda dokunabiliyor.

Şimdi bu dünyaya giderek daha fazla yetki verdiğimiz yapay zekâları ekleyin. Mesajlarımızı okuyan, belgelerimizi değiştiren, şirketler adına işlem yapan sistemler kuruyoruz. Böyle bir sistem kandırıldığında ya da yetkisinin dışına çıktığında, sonuç yanlış bir cevabın çok ötesine geçebilir: çalınan bilgiler, yetkisiz işlemler, duran hizmetler.

Elimizde güçlü bir savunma aracı da var. Bu açıkları bulup kapatmamıza yardım eden yine yapay zekâ. Ancak bir açığı bulmakla onu dünyanın dört bir yanındaki bilgisayarlarda kapatmak aynı hızda olmuyor. Bir yerde güncelleme hazırlanırken başka bir yerde eski sistem çalışmaya devam ediyor. Saldırgan için o boşluk yeterli olabilir.

Önümüzdeki yarış, daha zeki makineler üretmek kadar onları kontrol altında tutabilmek üzerine de olacak. Kapıları kilitlemekle yetinemeyiz. Duvarların ve temelin de ne kadar sağlam olduğunu, karşımızdaki zekâdan önce öğrenmek zorundayız.