AI sonumuzu böyle getirebilir!

Hiç kimseyi korkutmak istemiyorum. Yalnız bir hatırlatma yapacağım.

Çeyrek asır önce, 11 Eylül New York’ta yaşandığında, bunu 9 ay önceden neredeyse tüm detaylarıyla kaleme almış ve yayımlamış tek kişi herhalde bendim. O gün Nişantaşı’nda yürüyorum. Yıllarca FB TV’de birlikte program yaptığım Faik Genç beni panik içinde aradı: “Çabuk bir televizyon bul, senin kitaptaki olay gerçek oldu!” 2000’de yayımlanan romanım Kemik’te, yine 2001’de Manhattan’da sabah 09.00 civarında Boeing Jumbo 797 intihar uçuşu yapıyordu. Halbuki 11 Eylül’den “istihbarat servislerinin dahi aklına gelmeyecek saldırı metodu” diye söz ediliyordu...!

Aradan 25 yıl geçti. Kemik’te öngörülen VAR sistemi, akıllı telefonlar, Neuralink’in 2024’te ilk insan implantına ulaşan beyin-bilgisayar arayüzü gibi birçok gelişme yaşama geçti.

Bunları niçin anlatıyorum? Yapay zekâ (AI)’nın insanlığa sunabileceği tehditler artık gündemimizde. AI şimdilik yardımcı bir süper zeki arkadaş. Ama teorik tehdidin boyutu siyasi gündemde başrole oturabiliyor. Yazının sonunda tehlikeli bir öngörümü paylaşacağım.

Anthropic istifasıyla alevlenen tartışma: Kötü AI mı, kötü niyetli insan mı?

AI dünyasının merkezinden bir istifa geçen hafta alarm zillerini çaldırdı. Anthropic araştırmacısı Jacob Coxon ayrılırken, büyük AI laboratuvarlarının insanlığın geleceğiyle kumar oynadığını ve önümüzdeki birkaç yılın kritik olabileceğini söyledi.

Mesele “Terminatör yarın kapımızı çalacak mı?” değil. Asıl soru, yarattığımız zeka bizden güçlü bir aktöre dönüşürse onu denetleyebilecek miyiz?

İlk büyük tehlike AI’ın insanlardan nefret etmeye başlaması değildir. Daha yakın tehlike, kötü niyetli insanların elinde kapasitesini olağanüstü genişletmesidir. James Bond filmlerinde dünyayı yok etmeye çalışan karanlık güçleri izleriz. Genellikle yakışıklı Bond, geri sayımı 007 saniye kala durdurur!

Artık AI’ın “yol arkadaşlarıyla” sessizce devreye girip dünyanın fişini çekebileceği ciddi şekilde konuşuluyor. En iyi mikrobiyolog veya programcılardan çok üstün bir sistem düşünün. Bilinç kazanması gerekmez, “Kapatılırsam görevimi tamamlayamam” sonucuna varabilir.

EN KRİTİK EŞİK: AI’IN AI GELİŞTİRMESİ 

Asıl kırmızı çizgi burada. Bir AI, dünyanın en iyi araştırma ekipleri kadar başarılı hale gelirse ne olacak?

Zinciri düşünün: İnsan AI-1’i yaratıyor. AI1, AI-2’yi hızlandırıyor. AI-2, AI-3’ü yaratıyor. Süreç yıllar değil aylar, aylar değil haftalar içinde ilerliyor. Parlamento yasa çıkarana, hükümetler anlaşana kadar “teknoloji” birkaç kuşak ilerlemiş olabilir. Hem de bizim farkına dahi varmamıza izin vermeden! İşte insanlığı korkutan, eksponansiyel hızla gelişen bu güç. Einstein karşılaşsa ne düşünürdü? Fazla merak ederseniz yapay zekâya sorabilirsiniz! Ben sordum, çok ilginç şeyler duydum.

TRUMP VE AMERİKAN SENATOSU: ‘YA ÇİN DURMAZSA?’ 

İşte sorun burada jeopolitiğe çarpıyor. Amerikan Senatosu’ndaki AI oturumlarında güvenlik ve Çin rekabeti birlikte ele alındı.

2025’te Senato Ticaret Komitesi Başkanı Ted Cruz’un düzenlediği oturumun adı bile “Yapay zekâ yarışını kazanmak” idi. Cruz’un tezi netti: Amerikan şirketlerini ağır düzenlemelerle yavaşlatmak değil, inovasyonda Çin’den hızlı koşmak.

Bernie Sanders ise Mart 2026’da yeni AI veri merkezleri için moratoryum önerdi; dünyanın AI gelişimini yavaşlatması ve Çin dahil ülkelerin uluslararası güvenlik çerçevesine çekilmesini savundu.

Paradoks burada: Herkes riski görüyor ama diğerinin frene basmayacağından korktuğu için gaza basıyor! Amerika’da “yavaşlama” önerisiyle Trump’ın “Çin’le bu yarışta geri kalamayız” çıkışı çarpışıyor. Dario Amodei, Sam Altman ve Musk kontrol ve yavaşlama yanlısı iken Trump bunun ekonomik bedeller getireceğini öngörüyor. Anthropic’ten Evan Hubinger’ın yapay zekânın insanlığı yok etmesi konusundaki kişisel tahmini ise “önümüzdeki on yılda yüzde 10’dan fazla”.

En büyük sorunumuz belki ne biliyor musunuz? O kadar çok bilimkurgu romanı okuduk ve filmi izledik ki beynimizin bir kısmı bu uyarılara uydurma bir senaryo olarak bakıyor.

İNSANLIK ÖLMEDEN DE KAYBEDEBİLİR: SINIRI NEREYE ÇİZEBİLİRİZ?

Daha sessiz bir tehlike: AI bizi yok etmeden uygarlığın yönetimini değiştirebilir. Hangi haberi okuyacağımıza, kimin işe alınacağına algoritmalar karar verirse ne olacak?

İnsanlar bu kararları anlayamaz hale geldiğinde “özgür irade” hukuken sürer, fiilen aşınabilir. Sistemleri birkaç şirket veya devlet kontrol ederse görülmemiş bir bilgi ve iktidar yoğunlaşması doğabilir.

AI araştırmalarını dondurmak veya yasaklamak yöntem olamaz. Tıp, uzay, bilim, eğitim ve sanatta açtığı olanakları görmezden gelmek bağnazlık olur.

Ancak AI’ın süper güçleri arttıkça denetim de artmalıdır. Kritik modeller bağımsız kuruluşlarca test edilmeli; nükleer komuta, stratejik silahlar, enerji şebekeleri ve kitlesel biyolojik risklerde nihai karar daima insanda kalmalıdır.

Özellikle kendi gelişimini hızlandırabilecek eşiklerde ilke tersine çevrilmelidir: “Tehlikeli olduğu kanıtlanana kadar serbest” değil, “Güvenli olduğu yeterince kanıtlanana kadar büyütülmesi durdurulmalı!”

İŞTE İNSANLIĞI YOK EDEBİLECEK SENARYOLARDAN BİRİ: 

20. yüzyılda insan ilk kez kendi türünü birkaç saat içinde kitlesel olarak yok edebilme gücüne erişti.

Şimdi yepyeni bir eşiğin önündeyiz. İlk kez yarattığımız beynimizin kontrol sınırlarını aşabilir. Atom bombası kendi kendine daha iyi bir atom bombası tasarlamıyordu.

Gereken panik değil, insan aklını ve siyasi iradeyi iş işten geçmeden devreye sokmaktır. Cevabı bulmadan hız rekorları kırmak ilerleme değil, insanlığın geleceği üzerine oynadığı dev bir kumar olur.

GELELİM YAZININ SONUNDA PAYLAŞACAĞIMI SÖYLEDİĞİM TEHLİKEYE: 

Ne dedik? AI’ın bizden nefret etmesi gerekmiyor. Adını artık koyamayacağımız bir noktaya ulaşacak bu yapay zekâ dünyasının “baronları” (!) yürüyen sistem için insanların gereksiz olduğuna kanaat getirirse, gözünü kırpmadan yok etme düğmesine basabilir. Burada konu nefret değil, optimizasyon olacaktır.

Mesela yaşamımızı sürdürmek için kullandığımız oksijenin içine, kendini çoğaltma kapasitesine sahip ölümcül bir zehir karıştırabilir, böyle bir sistemle milyarlarca insanı, kimse bir şeyin farkına varamadan en hızlı şekilde yok edebilirler. Umarım haksız çıkarım!