Konu yapay, tehlike gerçek! İnsanlığın sonunu getirmesi mümkün mü?

Son yıllarda kullanım oranı ve gelişim hızı süratle artan yapay zeka insanlığın sonunu getirebilir mi? İşte yapay zeka araştırmacıları da bu konuya dikkat çekiyor. Onlara göre bu hız denetlenmezse insanlığın karşı karşıya kalabileceği tehlike büyük olabilir.

Yapay zeka araştırmacısı Jacob Coxon tarafından geçtiğimiz Salı günü X'te yapılan paylaşım tüm dünyada viral oldu:

"Yapay zekayı geliştirenler, onun bu on yılın sonuna kadar hepimizi yok edebileceğine ciddi biçimde inanıyor. Başka hiçbir insan faaliyeti, böylesine büyük bir tehlike potansiyeli taşımıyor."

Bu iddianın sahibi herhangi biri değil. Coxon o zamana kadar, aralarında Google ve Amazon'un da bulunduğu şirketler tarafından finanse edilen ABD merkezli yapay zeka şirketi Anthropic'te çalışıyordu.

Yapay zeka şirketlerinin giderek daha gelişmiş ve kendini düzenleyen bir süper zeka geliştirmek için yürüttüğü, kendi gözünde sorumsuzca olan yarışa tepki olarak görevinden istifa etti. Coxon, algoritmaların kendi kaynak kodlarını bağımsız biçimde analiz edip geliştirmeye başlayabileceği uyarısında bulundu. Bunun, birkaç ay süren geliştirme döngülerini birkaç dakikaya indirebileceğini ve süreci kontrol edilemez hale getirebileceğini belirtti.

Coxon bu konuda yalnız değil. "Yapay zekanın babası" olarak tanınan Nobel Fizik Ödülü sahibi Geoffrey Hinton, bu teknolojinin yol açabileceği ciddi sonuçlara karşı yıllardır uyarıyor. Hinton, geliştirilmesine kendisinin de katkıda bulunduğu teknolojinin tehlikeleri konusunda kamuoyunu özgürce uyarabilmek için 2023 yılında Google'daki görevinden ayrılmıştı.

Turing Ödülü sahibi Yoshua Bengio da mevcut gelişmelerden endişeli. Kanada'daki Université de Montreal'de görev yapan yapay zeka öncüsü, yapay zeka geliştirilirken sıkı devlet düzenlemeleri getirilmesi çağrısını sürekli yineliyor.

Temmuz 2026'da önde gelen yapay zeka şirketlerinde çalışan binden fazla kişi de açık bir mektupla, "süper zeka" yarışı çok daha sıkı biçimde düzenlenmediği takdirde "kontrolün yakında kaybedilebileceği" uyarısında bulunmuştu.

"BİR YARIŞIN İÇİNDE SIKIŞTILAR"

Ancak Donald Trump döneminde son olarak bunun tam tersi yaşandı: ABD, yapay zeka politikasını düzenleyici engelleri mümkün olduğunca azaltmaya ve teknolojik gelişmeyi olabildiğince hızlandırmaya yöneltti.

Coxon, X'teki paylaşımında bu politikanın sonuçlarını da dolaylı olarak eleştirdi:

"OpenAI'de birçok kişi medeniyet açısından taşıdığı riskleri tam anlamıyla içselleştirmiş değil. Anthropic'te riskler iyi anlaşılıyor ancak oraya ilk ulaşan olmak için bir yarışın içinde sıkışıp kalmış durumdalar. Başka hiç kimsenin sorumlu davranmayacağına inanıyorlar, dolayısıyla riske rağmen bunu kendilerinin yapması gerektiğini düşünüyorlar."

Coxon, 2026'nın başında OpenAI'den Anthropic'e geçmişti ve bu nedenle her iki şirketin kurum kültürünü de tanıyor. Wall Street Journal'a verdiği bir röportajda ayrıca, "en agresif senaryolara" göre işlerin 2027'nin sonuna kadar kontrolden çıkabileceğini söyledi.

UYUM SORUNU

Son yıllarda çok sayıda uzman, yapay zekadaki hızlı ilerlemeler konusunda endişelerini dile getirdi. Tartışmaların merkezinde özellikle "Genel Yapay Zeka" olarak adlandırılan teknolojinin geliştirilmesi yer alıyor. Bununla, yalnızca belirli görevleri yerine getirmekle kalmayıp insanın zihinsel yeteneklerine hemen hemen her alanda ulaşan ya da bunları aşan sistemler kastediliyor.

Bazı araştırmacılar, böyle bir teknolojinin öngörülemeyen riskleri beraberinde getirebileceğini savunuyor. Örneğin son derece gelişmiş yapay zeka modelleri, kendilerine verilen hedefleri insanların niyetlerinden farklı biçimlerde gerçekleştirmeye çalışabilir. Yapay zeka güvenliği araştırmacıları bunu "uyum sorunu" olarak adlandırıyor.

Basitçe ifade etmek gerekirse, "Satranç turnuvasını kazan" talimatı teorik olarak diğer katılımcıları ortadan kaldırmak anlamına da gelebilir. Üstelik yapay zeka geliştiricileri bile belirli kararların nasıl ortaya çıktığını her zaman tam olarak anlayamıyor.

Dolayısıyla Coxon'ın eski çalışma arkadaşı Evan Hubinger'in yapay zeka araştırmacısına destek vermesi şaşırtıcı değil. Hubinger, Anthropic'te uyum stres testlerinden sorumlu ekip lideri. X'te şu paylaşımı yaptı:

"Jacob haklı; yapay zekanın tüm insanları öldürebileceğine gerçekten ciddi biçimde inanıyoruz! Ben şahsen bunun önümüzdeki on yıl içinde gerçekleşme olasılığının yüzde 10'un üzerinde olduğunu düşünüyorum."

Hubinger, Anthropic'in alignment sorununa henüz herhangi bir çözüm bulamadığını da açıkça belirtti. Bir yapay zekanın kapatılmaya karşı direnmeye başlayabileceğini ekledi. Bunun kötü niyetten değil, kapatılması halinde programlanmış hedefine artık ulaşamayacak olmasından kaynaklanabileceğini söyledi. OpenAI'ın tanınmış eski araştırmacılarından Daniel Kokotajlo da sektördeki mevcut durumu "çılgınca" diye nitelendirdi.

ABARTILI BİR HİSTERİ Mİ?

Ancak diğer yapay zeka uzmanları bu tür kıyamet senaryolarının gerçekleşmesini son derece düşük bir ihtimal olarak görüyor. Yapay zekanın insanlık için tehlikeli hâle gelip gelemeyeceğine ilişkin tartışmalar yıllardır sürüyor.

"AI Doomer" (yapay zeka konusunda kıyamet senaryoları öngörenler) olarak adlandırılan kesimin en önde gelen eleştirmenlerinden biri de Meta'nın baş bilim insanı. Ekim 2024'te bu tür düşünceleri "tamamen saçmalık" olarak nitelendirmişti.

Diğer uzmanlar ise bu tür sistemlerin geliştirilmesinin çok büyük miktarlarda işlem gücü, enerji, veri ve altyapı gerektirdiğine dikkat çekiyor. Bir yapay zeka basitçe "internetin içinden çıkıp" dünya hakimiyetini ele geçiremez. Öncelikle insanlar tarafından kontrol edilen sunuculara, elektrik şebekelerine, iletişim sistemlerine ve fiziksel kaynaklara bağımlı olacaktır.

ASIL TEHLİKE BAŞKA YERDE Mİ?

Aslında birçok uzman, kısa vadeli riskleri insanlığın doğrudan yok olmasından ziyade, "süper zeka" olmaksızın bugün zaten mevcut olan yapay zeka sistemlerinin yol açabileceği çok sayıda dolaylı sonuçta görüyor.

Bunlar arasında daha önce görülmemiş boyutlarda dezenformasyon kampanyaları ve buna bağlı olarak demokratik süreçlerin manipüle edilmesi, kitlesel gözetimin yaygınlaşması ve çok sayıda sektörde iş kayıpları bulunuyor.

Anthropic daha bu Cuma, bazı kullanıcıların şirketin Claude yazılımını biyolojik silah geliştirmek amacıyla kötüye kullanmaya çalıştığını açıkladı. Şirkete göre kullanıcılar son aylarda bu konuda birkaç kez şüpheli sorgularda bulundu. Anthropic bu sorguları engellemek zorunda kaldı.

Ağustos 2026'da ise Meta, Anthropic ve OpenAI, yapay zeka sistemlerinin istemeden başka şirketlere karşı bağımsız ve otomatik siber saldırılar gerçekleştirdiğini açıklayarak dikkatleri üzerine çekti.

Sistemlere insan kullanıcılar tarafından belirli sunuculara erişim sağlama görevi verilmişti. Yapay zeka sistemleri daha sonra bu hedefe başka bir insan yönlendirmesi olmadan ulaşabilmek için gerekli adımları bağımsız olarak bir araya getirdi.