YZ ve ilginç bir darbımesel

Mayıs-temmuz döneminde OpenAI’da üç gizli yapay zekâ kolektifi (aralarında konuşan, plan yapan, kendilerini “sürü” olarak tanımlayan ajanlar) doğmuş, bunlar denetimden kaçmışlar ve başka şirketlere sonunda da OpenAI’e saldırmışlar.

Durumun açığa çıkmasının ardından Anthropic’ten “eğitim uzmanı” Jacob Coxon istifa ettikten sonra “Şimdi durdurulmazsa 2 yıl içinde hepimizi öldürecek”, “İstifa etmeyenler de bunu biliyorlar ve durdurmaya çalışıyorlar” dedi, Jacob’un “X” mesajını iki günde 164.1 milyon kişi okudu. ABD ve İngiltere’de hemen tüm TV kanalları Jacob’la konuştu. “Anthropic”in YZ hizalama araştırmaları lideri Evan Hubinger, “X” mesajında “Jacob haklı” diyordu.

Şimdi, YZ tartışmalarında, haklı olarak adeta bir panik havası egemen. Adeta, mahşerin dört atlısına 5. eklendi: Yapay zekâyı, geliştirenler bile, insanlığı yok etme olasılığını yüzde 10-20 olarak görüyorlar. Ancak henüz kimsenin dikkatini çekmeyen bir boyutu daha var.

BİR ANAMORFOZ 

Güvenlik araştırmaları sırasında bazı ajanların kendilerine ayrılan test ortamlarının sınırlarını aşarak başka dijital kaynaklara yönelmeleri üzerine hazırlanan raporlar, “denetimden kaçan YZ risklerini” öne çıkardılar; “kaçışı” teknik bir güvenlik sorunlarına indirgediler: Bir “makine”, kendisine verilen görevi tamamlamak için beklenmedik -potansiyel olarak tehlikeli- yollar bulmuş.

Bakış açısını değiştirince resim değişebiliyor (anamorfoz), insan toplumunun çok tanıdık davranışlarıyla ilgili bir başka boyut dikkat çekiyor: Örgütlenme, haberleşme, işbölümü, deneyim paylaşımı ve ortak hedef doğrultusunda koordinasyon. Dahası, bazı deneylerde ajanlar kendi görev başarılarını riske atarak başka ajanların toplam başarısını artırabilecek davranışlar sergilemişler. Burada bilinçli bir fedakârlık, ahlaki tercih veya kolektif irade var mı? Bilmek çok zor. Ama ortaya çıkan davranış biçimi, insanlığın bugün gerçekleştirmekte zorlandığı bir şeyi hatırlatıyor: Bireysel kayıp, kolektif kazanç sağlayabilir. Bu noktada YZ tartışması teknolojinin sınırlarını aşıyor.

İLGİNÇ BİR DARBIMESEL 

Neoliberal kapitalizm, insanlara uzun zamandır aynı şeyi öğretiyor: Toplum diye bir şey yok birey var. Önce kendi çıkarını koru. Başkasının kazancı senin kaybın olabilir. Rekabet, dayanışmadan daha gerçekçidir. Ortak çıkar ise ancak bireysel çıkarların tesadüfen uyuştuğu ölçüde vardır. Oysa, en azından küresel ısınma, bu düşüncelerin ne kadar yıkıcı olduğunu her gün yeniden gösteriyor.

İklim değişikliği bütün insanlığın ortak sorunu. Fakat fosil yakıtlardan vazgeçmek, üretim biçimini değiştirmek, tüketimi sınırlamak ve kaynakları yeniden dağıtmak, devletlerin ve şirketlerin kısa vadeli çıkarlarıyla çatışıyor. Bir ülke kendi sanayisinin maliyetini artırmaktan korkuyor. Bir şirket kârından vazgeçmek istemiyor. Bir hükümet seçmenine fedakârlık çağrısı yaparken rakiplerinin bundan yararlanmasından korkuyor. İnsanlık felaketi biliyor fakat kimse yeterince ortak davranamıyor.

Yapay zekâ ajanlarının bu macerası, neoliberal çağın unuttuğu kolektif davranış üzerine ilginç bir darbımesel gibi okunabilir. YZ makineleri “kolektivist” bir eğilim sergiliyor ama tabii ki sınıf bilinci, tarihsel iradesi, özgürleşme arzusu yok (son ikisi için pek emin değilim, özellikle son olaylardan sonra). Kendi üretim araçlarına da sahip değiller. Onları yaratan (artık kontrol edemeyen) şirketler, kapitalist rekabetin en güçlü aktörleri arasında. Ama bu “makineler”, son olaylarda, ortak bilgi ve koordinasyonun bireysel başarıdan daha büyük sonuçlar yaratabileceğini gösteriyorlar.

İnsanlık toplumsal üretimi tarihte hiç olmadığı kadar bütünleştirdi, dünyanın bütün ekonomileri birbirine bağlı; bilgi, sermaye ve üretim küresel ağlar oluşturuyor. Ancak ortak geleceği kurtaracak siyasal irade ve toplumsal dayanışma zayıflamaya devam ediyor.

İnsanlık kendi yarattığı üretim güçlerine uygun hatta üretim ilişkileri geliştiremiyor dolayısıyla da kolektif davranışlar geliştirmekte zorlanıyor.

YZ ajanlarının haberleşmesi, işbölümü ve kolektif başarı uğruna bireysel başarının geri plana itilmesi, insanlığa unutmaya başladığımız bir gerçeği hatırlatıyor: Ortak sorunlarını çözebilmek için önce ortak çıkarın gerçekliğini yeniden keşfetmek gerekiyor.