Yapay zekâ kontrolden mi çıkıyor? İstifa eden yapay zeka yazılımcısı uyardı: “İnsanlığı öldürecek”

Anthropic ve OpenAI’da yapay zekâ eğitim araştırmaları yapan Jacob Coxon, istifasının ardından yapay zekânın kontrol dışına çıkabileceği konusunda çarpıcı uyarılarda bulundu. Coxon, yapay zekânın kendi kendini geliştirme hızının arttığını, önümüzdeki bir-iki yıl içinde insanlardan çok daha üstün bir zekâya ulaşmasının ve kritik altyapılara saldırı ya da biyolojik silah geliştirme gibi büyük tehditlerin ortaya çıkmasının gerçekçi olduğunu söyledi. Yapay zekânın geçici bir teknoloji modası olmadığını belirten Coxon, “İşler daha da çılgın bir hâl alacak” dedi.

Yapay zekâ araştırmacısı Jacob Coxon, istifası ve istifa mesajıyla teknoloji dünyasında gündem olmuştu. Coxon, yapay zekânın geleceğine ilişkin dikkat çeken açıklamalarda bulundu.

Coxon, yapay zekânın insan müdahalesine ihtiyaç duymadan giderek daha akıllı hâle geldiğini belirterek, insanlardan çok daha üstün bir zekâya sahip bir yapının ortaya çıkabileceğini ve bunun çok yakın zamanda gerçekleşebileceğini söyledi.

İKİ ŞİRKETİ DE SORUMLU OLMAMAKLA SUÇLADI

Yapay zekâ şirketi Anthropic’te ve daha önce ChatGPT’yi geliştiren OpenAI’da yapay zekâ eğitim araştırmaları yapan Jacob Coxon, her iki firmayı da sorumsuzlukla suçlamıştı. Coxon, CNN’de Anderson Cooper’a konuştu. İstifa mesajında “Yapay zekâ insanlığı öldürecek” ifadelerini kullanan Coxon, neden böyle düşündüğünü ve yapay zekânın neler yapabileceğini anlattı.

“ÜRKÜTÜCÜ DERECEDE GERÇEK BİR DURUM”

Coxon, yapay zekânın insan kontrolünden çıkabileceğine ilişkin senaryoların bilim kurgu gibi görünse de gerçeğe dönüşebileceğini söyledi:

“Bahsi geçen senaryo kulağa biraz bilim kurgu gibi geliyor; gerçek dışı bir şeymiş izlenimi veriyor. Ancak bence bu, ürkütücü derecede gerçek bir durum ve bunu anlamanın en kolay yolu, iki ay önce yaşanan gerçek olayları düşünmekten geçiyor. Şöyle ki, iki ay önce yani yapay zekâ sistemleri tamamen kendi inisiyatifleriyle üçüncü taraf altyapılara kendi iradeleriyle siber saldırı gerçekleştirdi. Bence bu yapay zekâların sahip olduğu bağımsız irade ve yetenek düzeyini geleceğe taşıyacak olursak, ortaya çok büyük bir tahribat çıkabilir; örneğin kritik altyapıların hacklenmesi veya insanlığın sonunu getirebilecek biyolojik silahların geliştirilmesi gibi”

“KENDİ KENDİNİ GELİŞTİRME SÜRECİ GERÇEKLEŞEBİLİR”

Coxon, yapay zekânın giderek kendi kendini geliştirmeye başladığının altını çizerken, gelişme hızının da giderek arttığını söyledi.

Geleceğe ilişkin olarak ise istifa mesajında çizdiği karanlık tabloyu yeniden gündeme getirdi:

“Mevcut modellerin yapabileceği en kötü şey belki bir yerleri hack’lemek veya altyapıda büyük hasarlara yol açmak olabilir; ancak bence bizi alt edip soyumuzun tükenmesine neden olacak düzeyde bir zekâya henüz sahip değiller. Asıl çılgınca olan, ilerleme hızına baktığınızda yakın gelecekte, yani önümüzdeki yıl ya da ondan sonraki yıl gibi bir zaman diliminde kendi kendini geliştirme sürecinin gerçekleşme ve hepimizin ölebileceği o aşamaya girme ihtimalimizin gayet gerçekçi olmasıdır. Yani bu durum çok yakında kapımızda.”

“BU SADECE GEÇİCİ BİR MODA DEĞİL”

Yapay zekâ firması Anthropic’ten ayrıldığını açıkladığı ve yapay zekânın olası tehlikelerini anlattığı mesajı sanal medyada rekor paylaşıma ulaşan Coxon, yapay zekânın bir abartı olmadığını ve giderek daha ciddi bir hâl alacağını söyledi.

Mesajının hızla yayılmasına ilişkin şaşkınlığını da gizlemedi:

“İnsanlar bunun gerçek bir teknoloji olduğunu fark etmeye başlıyor. Bu, sadece abartılı bir heves ya da geçici bir moda değil; yakın zamanda da ortadan kalkacak bir şey değil. İşler daha da çılgın bir hâl alacak. Son altı aydır durum giderek daha da çılgınlaşıyor; bence insanların zihninde durumun ciddiyetine dair örtük bir kavrayış vardı ve bu durum, bir kıvılcım çakıp ateşi başlatan bir etki yarattı. Bu kadar kısa sürede böylesine büyük bir hızla yayılması beni gerçekten çok şaşırttı.”