Yapay zekâdan korkuyorlar peki neden durmuyorlar? -1-

Yapay zeka araştırmacısı Jacop Coxon’un istifasını duyurduğu bu sözler dünyayı sarstı. Coxon’a göre insanlık, sonuçlarını tam olarak bilmediği bir yarışın içine girdi. Daha önemlisi Coxon yalnız değil. Bu köşeyi takip edenler daha önce de benzer kaygıların dile getirildiğini hatırlayacaktır. AI laboratuvarlarının içinden gelen uyarılar, şirket CEO’larının açıklamaları, Washington’daki düzenleme tartışmaları ve birbiriyle çatışan bilim insanlarının görüşleri aynı sorunun etrafında birleşiyor; “Yapay zekâdaki hız, onu anlama ve kontrol etme kapasitemizi aşıyor mu?”

PARAYI DA MASADA BIRAKTI

Coxon’ın istifasında dikkati çeken bir ayrıntı daha var. Anthropic’teki hisselerini hak edişine yaklaşık iki ay kalmıştı. Beklemedi. Gitti. Yani masada yalnızca kariyer bırakmadı. Para da bıraktı.

Haberin Devamı

- Silikon Vadisi’nde “gelecek model dünyanın en güçlü modeli olacak”, “AGI yaklaşıyor”, “süperzekâ geliyor” gibi iddiaların aynı zamanda yatırım ve pazarlama dili haline geldiğine dair ciddi eleştiriler var. Dolayısıyla her felaket uyarısını sorgulamak gerekir.

- Ama milyonlarca dolara ulaşabilecek bir geleceği geride bırakan bir araştırmacı; “Artık bunun parçası olmak istemiyorum” diyorsa, ne söylediğine biraz daha yakından bakmak gerekiyor.

- Coxon, önümüzdeki bir-iki yılın insanlık açısından kritik olabileceğini söylüyor. Çünkü ona göre yapay zekânın yetenekleri yalnızca artmıyor. Artışın niteliği değişiyor. Kodlama, matematik, bilimsel araştırma, siber operasyonlar ve AI geliştirmek için AI kullanılmaya başlanması.

KENDİSİNİ GELİŞTİREN YAPAY ZEKÂ NE DEMEK?

Bugün insan yapay zekâyı geliştiriyor. Sorun yapay zekânın yapay zekâ geliştirmesi. Sonra ortaya çıkan daha güçlü sistemin, kendisinden de ileri bir sistemin geliştirilmesine daha fazla katkıda bulunması. Ve bu döngü tekrar etmesi. AI literatüründe bunun için kullanılan kavramlardan biri: Recursive self-improvement yani özyinelemeli kendini geliştirme;

- Bu fikir yeni değil. Fakat bugünkü tartışmayı farklılaştıran şey, AI sistemlerinin artık yazılım geliştirme ve AI araştırmasının çeşitli parçalarında gerçekten kullanılmaya başlanması.

Haberin Devamı

- Asıl korku da şu: Eğer yapay zekâ geliştirme süreci giderek otomatikleşirse, bir noktada teknolojik ilerlemenin hızı insanların onu test etme, anlama ve denetleme hızının üzerine çıkabilir mi?

- Bunun gerçekleşeceğini bugün kimse bilimsel kesinlikle söyleyemez. Ama artık ciddi araştırmacılar “Bu ihtimali yok sayamayız” diyor.

‘VAFTİZ BABALARI’ NE DİYOR?

Modern yapay zekânın bugünkü yükselişinde üç isim özellikle öne çıkıyor: Geoffrey Hinton, Yoshua Bengio, Yann LeCun. Üçü de derin öğrenmenin gelişmesindeki çalışmaları nedeniyle 2018’de Turing Ödülü’nü paylaştılar. Bu nedenle dünya basınında sık sık yapay zekânın “Godfathers of AI”-vaftiz babaları olarak anılıyorlar;

Haberin Devamı

- Hinton, son günlerde kendisine “AI’ın insanlığın yok olmasına yol açması için yüzde 10 civarında bir ihtimal sizce mantıksız mı?” diye sorulduğunda; “Mantıksız değil” dedi. Hinton’ın gerekçesi aslında felsefi olarak son derece basit; “İnsanlık daha önce kendisinden daha zeki olabilecek varlıklar yaratmadı.” Dolayısıyla geçmiş deneyimlerimize bakıp; “Nasıl olsa kontrol ederiz” diyemiyoruz. Mesele yapay zekanın yalnızca bizden kurtulmasını engellemek değil. Bizden kurtulmayı hiç istememesini nasıl sağlayacağız? İşte alignment tartışmasının özü de bu.

- Bengio’nun yaklaşımı bana Hinton’dan biraz farklı geliyor. Daha bilim-politika eksenli. 2026 International AI Safety Report’un başkanlığını yaptı. Raporun temel mesajlarından biri şu: AI’ın yetenekleri hızla artıyor. Ama bu sistemlerin nasıl davrandığına ilişkin bilimsel anlayışımız aynı hızda gelişmiyor. Özellikle daha bağımsız hareket eden “agentic AI” sistemleri konusunda belirsizlik artıyor.

Haberin Devamı

Bengio son aylarda özellikle iki olgunun üzerinde duruyor; aldatma kapasitesi ve otonomi. Yani bir sistem, hedefini gerçekleştirmek için bizden bilgi saklamayı veya bizi yanıltmayı öğrenebilir mi? Bengio’ya göre bugünkü kanıtlar gelecekte kesin bir felaket olacağını göstermiyor. Ama risklerin araştırılmasını gerektirecek kadar ciddi sinyaller var. Bu nedenle son dönemdeki önerisi kendi hedeflerini gizlice takip etmeyen, dünyayı anlamaya ve güvenilir bilgi sağlamaya odaklanan farklı bir AI mimarisi.

m Burada bilimsel tartışmanın belki de en önemli kişisi devreye giriyor; Yann LeCun. Çünkü LeCun, Hinton ve Bengio’nun varoluşsal risk yaklaşımına büyük ölçüde karşı çıkıyor. Daha önce Meta’nın baş AI bilim insanı olan, Turing Ödüllü LeCun’a göre ise AI’ın insanlığı yok edeceği anlatısı büyük ölçüde abartılıyor. LeCun’un temel itirazı şu; “Zeki olmak, egemen olmak istemek anlamına gelmez.” Ona göre zekâ ile iktidar arzusu aynı şey değil. LeCun’a göre asıl tehlikelerden biri, felaket senaryoları yüzünden teknolojinin birkaç dev şirketin elinde kapatılması. Bu nedenle açık modelleri savunuyor. AI yalnız birkaç şirketin elinde olursa hem teknolojik hem siyasi güç yoğunlaşır.

Haberin Devamı

BU YÜZDEN ‘YÜZDE 10’ MESELESİNE DİKKAT

Bugünkü tartışmada sık sık: “AI’ın insanlığı yok etme ihtimali yüzde 10” gibi cümleler görüyoruz. Bunu yanlış okumayalım. Ortada 100 deney yaptık, 10’unda insanlık yok oldu gibi bir veri yok. Böyle bir olasılık hesaplanamaz. Bunlar uzmanların yüksek belirsizlik altındaki kişisel risk tahminleri. Bilimsel gerçek olarak değil, uzmanların risk algısını gösteren göstergeler olarak görülmeli. Ancak Hinton gibi Nobel ödüllü bir bilim insanının, Bengio gibi uluslararası AI güvenlik raporunun başındaki bir akademisyenin ve bugün frontier laboratuvarlarında çalışan araştırmacıların “Bu ihtimal sıfır değil” demesi, konuyu bilimkurgu diye kenara atmayı zorlaştırıyor.

SONRA LABORATUVARLARIN İÇİNDEN SESLER GELİYOR

İşte Jacob Coxon olayı tam burada farklılaşıyor. Vaftiz babalarının uyarıları bir süredir vardı. Şimdi bu uyarıların yanına AI’ı bugün geliştiren kuşağın iç sesleri ekleniyor. Anthropic’te alignment alanında çalışan Evan Hubinger, Coxon’ın temel endişesine katılıyor.

OpenAI’ın güvenlik çevresindeki Paul Christiano ise sektörün “katastrofik ve geri döndürülemez kontrol kaybı” riskini kabul edilebilir seviyeye indirme yolunda olmadığını söylüyor. Yani tablo değişti. Eskiden iki taraf var gibiydi; AI şirketleri ve AI’dan korkan dışarıdakiler. Şimdi tartışma şirketlerin kendi içine girmiş durumda yani ortalık adeta yangın yeri. (Yazıya perşembe günü devam edeceğiz.)