Yapay zekâdan korkuyorlar peki neden durmuyorlar? -2-

“Yapay zekânın vaftiz babaları” Geoffrey Hinton ve Yoshua Bengio’nun uyarılarını... Onlara itiraz eden üçüncü vaftiz babası Yann LeCun’u... OpenAI ve Anthropic’te çalışan, teknolojinin tam merkezindeki araştırmacıların söylediklerini... Ve son olarak Anthropic’ten istifa eden Jacob Coxon’ın o çarpıcı cümlesini: “Kendini geliştiren süperzekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar.”

Kaldığımızdan yerden devam edeceğiz, çünkü şirketlerin patronları da konuşmaya başladı. Üstelik birkaç gün içinde tartışma Silikon Vadisi’nden çıktı. Beyaz Saray’a girdi. Pekin’e ulaştı. Yapay zekânın güvenliği tartışması bir anda ABD-Çin rekabetinin yeni cephesine dönüştü.

CEO’LAR KONUŞTU

Önce Anthropic CEO’su Dario Amodei, 12 Eylül’de uzun bir metin yayımladı. Başlığı “We Must Pace the Frontier.” Yani, “Yapay zekânın en ileri sınırındaki gelişmenin hızını kontrol etmek zorundayız.”

Haberin Devamı

* Amodei tam bir felaket tellalı değil. Teknolojinin yaratabileceği gelecek konusunda son derece iyimser.

AI’ın bilimsel keşifleri hızlandırabileceğini, sağlık alanında büyük ilerlemeler sağlayabileceğini ve ekonomik büyümeyi olağanüstü artırabileceğini düşünüyor. Ama aynı insan bir taraftan da kontrol kaybı, siber saldırılar, biyolojik tehditler ve ekonomik şoklardan söz ediyor. Yani Amodei’nin önündeki denklem şu: Muazzam fayda ama aynı zamanda muazzam risk.

* Bu nedenle üç aşamalı bir güvenlik sistemi öneriyor.

1- AI laboratuvarlarının içine bağımsız denetçiler girsin. Şirketlerin güvenlik uygulamalarını dışarıdan denetleyebilsinler.

2- Demokratik ülkeler ortak güvenlik standartları oluştursun.

3- Son aşamada ise Çin dahil büyük AI güçleri arasında karşılıklı ve doğrulanabilir güvenlik düzenlemeleri yapılsın.

ALTMAN, HASSABIS VE MUSK: BİZ DE VARIZ

Amodei’nin çağrısı sektörde yalnız kalmadı:

* OpenAI CEO’su Sam Altman: “Dario’ya katılıyorum, sınırdaki ilerlemenin hızını ayarlamamız gerekiyor” diyerek bağımsız denetçilere benzer erişimi OpenAI’ın da sağlayacağını açıkladı.

* Google DeepMind CEO’su Demis Hassabis, Amodei’nin önerisinin doğru yöne işaret ettiğini söyledi.

Haberin Devamı

* Ve Elon Musk; Anthropic çevresinden yükselen uyarılar konusunda “psyop”, yani psikolojik operasyon iddialarını öne çıkaran Musk, bu kez yalnızca “Dario haklı” dedi.

Tablo çarpıcı, dünyanın en ileri yapay zekâ sistemlerini geliştirmek için birbirleriyle yarışan dört büyük cephe de “Biraz yavaşlamamız gerekiyor” diyor.

YAVAŞLAMAK İSTİYORSANIZ NEDEN YAVAŞLAMIYORSUNUZ?

Cevap aslında teknolojide değil. Ekonomide, jeopolitikte ve insan davranışında.

* Bir Amerikan şirketi yavaşlarsa başka bir Amerikan şirketi öne geçebilir.

* Hepsi yavaşlarsa Çin öne geçebilir. Çin yavaşlarsa Amerika farkı açabilir.

MAHKÛMUN İKİLEMİ

* Tek başına yavaşlayan taraf bunun bedelini ödeyebilir.

Haberin Devamı

* Oyun teorisinin klasik problemini hatırlayın: Mahkûmun ikilemi.

* Bence yapay zekâ yarışında yaşanan şey giderek buna benziyor. Herkes frenin gerekli olabileceğini görüyor. Ama kimse ilk fren yapan olmak istemiyor.

VE TRUMP ÇIKTI: “DÜNYANIN SONU” BİR ALDATMACA

Tam bu tartışma sürerken ABD Başkanı Donald Trump devreye girdi. Önce pazar günü AI riskleri konusunda alarm verenleri “çok negatif güçler” diye tanımladı. Ortaya atılan bazı senaryoların gerçekleşmeyeceğini söyledi ve Amerika’nın AI alanında dünya liderliğini koruması gerektiğini vurguladı. Ardından pazartesi günü söylemini daha da sertleştirdi. AI’ın dünyayı sona erdireceği iddiasını bir “hoax”, yani aldatmaca olarak nitelendirdi. Ve sosyal medyada çok daha çarpıcı bir mesaj verdi. AI’ın ihtiyacı olan esas güvenlik bariyerinin “Güçlü ve akıllı, yüksek IQ’lu bir başkan” olduğunu savundu. Neden mi?

Haberin Devamı

* Neden Çin... Yapay zekâ tartışmasının bilimsel bir tartışmadan jeopolitik mücadeleye dönüştüğü yer tam burası.

Biliminsanı risk olduğunu, CEO’larlar kontrollü gitmek gerektiğini söylüyor. Amerikan Başkanı ise “Çin bizi geçmemeli” diyor.

BÜYÜK PARADOKS

İşin paradoksu burada daha da büyüyor. Çünkü OpenAI, 9 Eylül’de yayımladığı resmi politika belgesinde çok farklı bir noktaya geldi. Şirket artık açıkça “Zorunlu ulusal AI güvenlik düzenlemesi gerekiyor” diyor.

VE ÇİN DE KONUŞTU

Çin devlet medyası önce Amodei’nin AI’ı yavaşlatma önerisine sert çıktı. People’s Daily bağlantılı yorumlarda bu yaklaşımın teknolojik üstünlüğü korumaya yönelik bir “Soğuk Savaş” mantığına dönüşebileceği savunuldu.

Haberin Devamı

Ama ardından çok daha ilginç bir mesaj geldi. People’s Daily son olarak “Yapay zekâ büyük güçlerin tekeli değildir ve sıfır toplamlı rekabet alanına dönüşmemelidir” dedi. Dahası Çin’in AI risklerinin yönetilmesi konusunda ABD ile “yapıcı ve profesyonel” görüşmelere hazır olduğunu söyledi.

* Ama perde arkasında her iki ülke de kontrol kaybı riskini çalışıyor.

* Reuters’ın yayımladığı kapsamlı araştırmaya göre Çin, gelişmiş AI sistemlerinin kontrolden çıkma ihtimalini artık resmi güvenlik belgelerinde açıkça ele alıyor. Çin özellikle AI ajanlarının güvenlik sınırlarını aşması, dış sistemlere saldırması ve insan denetiminden çıkması ihtimallerine karşı zorunlu standartlar hazırlıyor.

BELKİ DE YENİ SİLAH KONTROLÜNÜ KONUŞUYORUZ

Yapay zekâyı nükleer silaha birebir benzetmeyi doğru bulmuyorum. Çünkü AI eğer doğru kullanabilirse ve sınırlamalar konulursa insanlığa fayda getirecektir. Ancak AI ile nükleer yarış arasında bir benzerlik var:

* 20’nci yüzyılda “Onların kaç nükleer başlığı var?” diye soruyorduk. 21’inci yüzyılda “Onların modeli ne kadar güçlü?” diye sorabiliriz.

* Ve belki bir gün Washington ile Pekin arasında çiplerin, dev veri merkezlerinin ve frontier modellerin konuşulduğu bir çeşit “AI silah kontrolü diplomasisi” göreceğiz.

MUAZZAM FAYDA İHTİMALİYLE MUAZZAM RİSK İHTİMALİNİ AYNI ANDA NASIL YÖNETECEĞİZ? KÖTÜ AI MI, KÖTÜ İNSAN + ÇOK GÜÇLÜ AI MI?

Ben araştırdıkça başka bir soruya daha fazla takılıyorum. Hollywood bize hep aynı hikâyeyi anlattı. Makine bilinç kazanır. İnsanlardan nefret eder. Ve saldırır. Oysa yakın geleceğin riski bundan çok daha sıradan olabilir:

* Kötü insan + çok güçlü AI. Bir devlet. Bir istihbarat servisi. Bir terör örgütü. Bir suç şebekesi. Bir hacker.

Ya da sadece rakibini geçmek için güvenlik sınırlarını zorlayan bir şirket.

* AI’ın insanlardan nefret etmesine gerek yok. İnsanın kötü niyetini olağanüstü etkin biçimde uygulaması yeterli.

Ve bu nedenle bugünün gerçek risklerini yarının varsayımsal kıyametine kurban etmemek gerekiyor.

* Siber saldırılar, dolandırıcılık, deepfake, dezenformasyon, biyolojik risk, iş gücü dönüşümü, gözetim ve tüm bunların birkaç şirketin elinde yoğunlaşması. Bunların bazıları gelecek senaryosu değil. Bugünün meselesi. Üstelik bunların komutlarını veren insanlar...

PEKİ GERÇEKTEN HEPİMİZİ ÖLDÜREBİLİR Mİ?

Burada yine frene basmak gerekiyor.

Bugün elimizde:

“AI insanlığı yok edecek” diyebileceğimiz bilimsel kesinlik yok. “AI hepimizi öldürecek” demek için kanıt yok.

Ama “Böyle bir risk kesinlikle yok” demek için de yeterli bilgi yok. Belki en doğru yaklaşım şu; ne ütopya, ne kıyamet. Kanıt geldikçe risk hesabını yeniden yapmak.

* Tartışma yapay zekânın ne kadar zeki olacağı tartışmasını aştı. Asıl mesele onu kimin kontrol edeceği? Sınırlama konulup konulamayacağı ve nasıl sınırlamalar konulacağı?

* Can alıcı bir başka soru; herkes fren istiyorsa o fren pedalına çok geç olmadan kim basacak? Çünkü herkes birbirine bakarken yapay zekâ gelişmeye devam ediyor.