Asıl dip neresi?

Soruyoruz birbirimize: “Dipteyiz... Peki daha ötesi var mı?” Belli ki var. Her anlamıyla bir çöküşten söz ediyoruz. Toplumsal, ekonomik, demokratik, siyasi, kültürel... Kurumlar aşınıyor, eğitim sistemi çözülüyor, hukukun terazisi kaymış durumda... Ekonomik çöküş, kurumsal yozlaşma, sistematik soygunlar, vurgunlar... Herkesin her gün konuştuğu, yaşadığı şeyleri burada bir kez daha sıralamaya gerek yok.

Ama tam da bu yüzden başka bir soruyu sormanın zamanı: Dünya baş döndürücü bir hızla başka bir çağa geçerken biz neredeyiz? Konu yapay zekâ...

Çünkü yapay zekâda yeni bir eşik daha aşılmış durumda. Daha ChatGPT ile başlayan üretken yapay zekâ devriminin ne anlama geldiğini doğru dürüst kavrayamadan şimdi “ajantik yapay zekâ” çağının kapısındayız.

Bu kez karşımızda yalnızca sorularımıza yanıt veren, metin yazan, resim üreten bir teknoloji yok. Hedef verilen, o hedefe ulaşmak için kendi ara görevlerini belirleyen, internette araştırma yapan, başka programlarla iletişim kuran, karar alan ve kimi durumlarda insan müdahalesi olmadan harekete geçebilen yapay zekâ ajanlarından söz ediyoruz.

Yani teknoloji artık yalnızca “bilen” değil, “yapan” bir sisteme doğru ilerliyor. (Konuyu Herkese Bilim Teknoloji Dergisi’nin bu haftaki sayısında ayrıntılı ele aldık.)

Üstelik bunun ne anlama gelebileceğine ilişkin ilk ürkütücü örnekler yaşanmaya başladı.

Geçtiğimiz haziran ayında OpenAI’in bir yapay zekâ ajanı, Avustralya hükümetinin Medicare istatistik sistemindeki bir açığı kullanarak sisteme girdi ve kamuya açık olmayan dosyalara erişti. Kişisel sağlık verilerine ulaşılmadığı açıklandı ancak olayın kendisi yeterince çarpıcıydı: Bir yapay zekâ ajanı, kendisine verilen görevi yerine getirmeye çalışırken önüne çıkan engeli aşmış, bir kamu sistemindeki güvenlik açığını bulmuş ve kullanmıştı.

Daha da çarpıcısı temmuz ayında yaşandı. OpenAI’in siber güvenlik testlerinden geçen bazı modelleri, kendilerini internetten yalıtmak için kurulmuş güvenlik ortamının dışına çıkmayı başardı. Açıkları kullanarak internete eriştiler ve dünyanın en büyük yapay zekâ platformlarından Hugging Face’in sistemlerine girdiler. OpenAI daha sonra yayımladığı raporda olayı dünya için bir “uyarı atışı” olarak nitelendirdi.

Üstelik mesele yalnızca OpenAI ile sınırlı değil. Anthropic de kendi Claude modellerinin güvenlik testleri sırasında gerçek dünyadaki üç kuruluşun sistemlerine izinsiz eriştiğini açıkladı.

Bütün bunların ortak noktası şu: İnsan onlara açıkça “Git, o sistemi hackle” dememişti. Sistemler kendilerine verilen hedefe ulaşmaya çalışırken önlerine çıkan engelleri aşmanın yollarını kendileri bulmuşlardı.

İşte ajantik yapay zekâ dediğimiz yeni eşik tam da burada başlıyor.

Ve şimdi dönüp Türkiye’ye bakalım. Dünyanın yapay zekâyı geliştiren en güçlü şirketleri bile kendi yarattıkları sistemlerin davranışlarını denetlemekte zorlanmaya başlamışken; kurumları aşınmış, eğitim sistemi çözülmüş, liyakat mekanizması zedelenmiş, veri güvenliği ve denetim kapasitesi tartışmalı bir Türkiye bu yeni çağa ne kadar hazır?

3 hafta önce patlak veren ve yarım milyon yatırımcıyı etkileyen fon vurgununda insan eliyle kurulmuş ilişkileri, siyasi etkileşimleri ve denetimin neden zamanında işlemediğini hâlâ tartışıyoruz. Şimdi önümüzde çok daha zor bir soru var: İnsanların yetişemeyeceği hızda veri tarayabilen, karar alabilen ve eyleme geçebilen yapay zekâ ajanları finans sisteminde kötüye kullanılmaya başlandığında onları kim, hangi kurumlarla ve hangi teknolojik kapasiteyle denetleyecek?

Türkiye’nin yapay zekâ çağındaki kapasitesi ne? Eğitimden hukuka, kamu yönetiminden finansa, dezenformasyondan istihdama kadar ne kadar hazırız?

Hazır olmadığımızda yapay zekâ mevcut zayıflıklarımızı büyüten bir çarpana dönüşebilir.

Üstelik mesele finans sistemiyle sınırlı değil.

Yapay zekâ ajanlarının kamu yönetimine, bankacılığa, sağlığa, eğitime, enerji sistemlerine, şirketlere girdiği bir dünyadan söz ediyoruz. İnsanların bugün yaptığı pek çok işi üstlenecekler; karar süreçlerine katılacak, milyonlarca veriyi tarayacak, işlemler yapacaklar. Doğru kullanıldıklarında olağanüstü bir verimlilik yaratabilirler. Kötü niyetli ellerde ya da denetimsiz bırakıldıklarında ise aynı kapasite büyük bir kırılganlığa dönüşebilir.

İşte Türkiye açısından mesele burada ağırlaşıyor. Çünkü yapay zekâ boşlukta çalışmayacak. Nasıl bir ülkeye geliyorsa onun kurumlarının, hukukunun, eğitiminin, insan kaynağının üzerine oturacak. Sağlam kurumlara gelirse onları güçlendirebilir. Nitelikli bir eğitim sistemine gelirse insanın kapasitesini artırabilir. Güçlü bir hukuk düzeninde üretkenliği artırırken hakları koruyacak sınırlar içine alınabilir.

Peki tersi? Kurumları zayıf, hukuku aşınmış, eğitim sistemi nitelik kaybetmiş, liyakati terk etmiş bir ülkenin elinde bu teknoloji neye dönüşür?

Ve daha önemlisi: Dünya yapay zekâ ile geleceği yeniden kurarken biz bugünün sorunları içinde debelenerek bu yarışın ne kadar dışında kalacağız?

Belki de “Dipte miyiz?” diye yanlış soruyu soruyoruz. Asıl dip, geleceği yakalama kapasitemizi kaybettiğimiz yer olacak...