Yapay zekâ uzmanlarından korkutan uyarı: İnsanlığın sonu olabilir mi?

Yapay zekâ şirketi Anthropic'in eski çalışanı Jacob Coxon'un, yapay zekânın insanüstü sistemlere dönüşebileceği uyarısıyla şirketten istifa ettiğini açıklamasının ardından sektörden benzer uyarılar gelmeye devam ediyor. Anthropic, OpenAI ve Google DeepMind'da görev yapan ya da daha önce çalışmış uzmanlar, yapay zekânın hızlı gelişiminin ciddi riskler barındırdığına dikkati çekti.

Coxon'un yapay zekânın gelişim hızına ilişkin paylaşımının ardından sektördeki farklı isimler de endişelerini sosyal medya üzerinden dile getirdi. Uzmanların açıklamalarında, yapay zekânın kontrol edilmesi, güvenli biçimde geliştirilmesi ve olası risklere karşı uluslararası koordinasyon sağlanması gerektiği vurgulandı.

"YAPAY ZEKA İNSANLIĞIN YOK OLMASINA YOL AÇABİLİR"

Anthropic çalışanı Samuel Marks, Coxon'un paylaşımına ilişkin değerlendirmesinde, yapay zekâ geliştiricilerinin bu teknolojinin insanlığın "yok olmasına" yol açabileceği riskinin farkında olduğunu savundu.

Marks, söz konusu risklerin bilinmesine rağmen yapay zekâ çalışmalarının neden sürdürüldüğüne ilişkin de değerlendirmede bulundu. Bunun ticari teşviklerin yanı sıra, teknolojiyi daha kötüye kullanabilecek diğer geliştiricilerle yarışıldığı düşüncesinden kaynaklandığını belirtti.

Geleneksel yazılımlardan farklı olarak yapay zekânın istenilen şekilde davranacak biçimde programlanamadığını belirten Marks, sistemlerin sıklıkla uygunsuz davranışlar sergileyebildiğini söyledi.

Marks, sektörde birçok kişinin daha güvenli yöntemlerin bulunabilmesi için yapay zekâ geliştirme sürecinin yavaşlatılmasını istediğini belirterek, "Yapay zekâyı daha uygun davranışlara yönlendirebilecek yöntemlerimiz var, ancak onları tam anlamıyla uyumlu hale getirebilecek bir şey yok." ifadelerini kullandı.

OPENAI BAŞBİLİMCİSİ: "KİMSENİN HAZIRLIKLI OLDUĞUNU DÜŞÜNMÜYORUM"

OpenAI Başbilimcisi Jakub Pachocki de yapay zekânın hızlı gelişimine ilişkin değerlendirmede bulundu.

Son derece dikkatli olunması gereken bir dönemden geçildiğini belirten Pachocki, "Makine zekâsındaki hızlı artışın devam etmesinin doğuracağı sonuçlara kimsenin hazırlıklı olmadığı konusunda endişeliyim." dedi.

Pachocki, yapay zekânın uyumlanması ve izlenmesi konusunda OpenAI'nin çalışmalarını sürdürdüğünü belirterek, daha kapsamlı önlemler alınmasının gerekli olduğunu ifade etti.

ESKİ DEEPMIND ÇALIŞANI: "JACOB HAKLI"

Google'ın yapay zekâ birimi DeepMind'daki görevinden haziranda ayrıldığını belirten eski çalışan Alex Turner da Coxon'un paylaşımına destek verdi.

Turner, "Jacob haklı. Birçok araştırmacı, gezegendeki herkesi öldürebilecek bir şey inşa ettiklerine inanıyorlar. Bunu nasıl durduracağımı düşünmek kelimenin tam anlamıyla benim işimdi." ifadelerini kullandı.

OpenAI araştırmacısı Jason Wolfe ise yapay zekânın insanlık için kötü sonuçlar doğurabileceği birçok senaryo bulunduğunu belirtti.

Wolfe, "Gerçek anlamda bir yok oluşun gerçekleşme olasılığının ne kadar olduğunu bilmiyorum ancak yapay zekânın insanlık için kötü sonuçlar doğurabileceği pek çok yol olduğunu düşünüyorum." değerlendirmesinde bulundu.

Yapay zekânın mevcut hızla ilerlemesinin endişe verici olduğunu belirten Wolfe, bu sorunun tek bir şirket veya ülke tarafından çözülemeyeceğini, yapay zekânın kapasitesindeki artışa karşı koordinasyon gerektiğini vurguladı.

"BU ALANDA YAŞANANLAR TOPLUM AÇISINDAN SON DERECE SAĞLIKSIZ"

DeepMind'da eski kıdemli araştırmacı Jonathan Richard Schwarz da yapay zekâ laboratuvarlarında toplanan güce ilişkin ciddi endişeleri bulunduğunu belirterek, bu nedenle DeepMind'dan 7 yıl önce ayrıldığını açıkladı.

Schwarz, o tarihten bu yana gelen iş tekliflerini de reddettiğini belirterek, "Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız." ifadelerini kullandı.

COXON İSTİFASINI DUYURMUŞTU

Son üç yıldır OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, Anthropic'ten istifa ettiğini açıklamıştı.

Coxon, her iki şirketin de yapay zekânın geliştirilmesi konusunda yeterince sorumlu davranmadığını savunarak, şirketlerin kendi kendini geliştirebilen süper zekâya ulaşmak için kontrolsüz bir yarış içinde olduğunu öne sürmüştü.

Yapay zekânın gücünün hafife alınmaması gerektiğini belirten Coxon, bu sistemlerin yakın zamanda her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve gerçek güç ile kaynaklar elde edebilecek insanüstü sistemlere dönüşebileceğini ifade etmişti.

Coxon ayrıca yapay zekâ modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı "öldürebileceğine" ciddi şekilde inandığını öne sürmüş, yöneticilerin kamuoyu önünde daha ılımlı açıklamalar yaptığını ancak kapalı kapılar ardında büyük bir korku yaşandığını iddia etmişti.