ABD'li yapay zeka şirketi Anthropic itiraf etti: "Varoluşsal risk oluşturabiliriz"

Yapay zeka sektöründe bugüne kadar kapalı kapılar ardında konuşulan en büyük kıyamet senaryosu, bizzat sektörün devlerinden biri tarafından resmî kayıtlara geçirildi. Popüler yapay zeka Claude'un geliştiricisi Anthropic'in, insanlık için varoluşsal risk oluşturabileceği dile getirildi.

YATIRIMCILARA SUNULAN DOSYADA DİKKAT ÇEKEN UYARILAR

Silikon Vadisi'nin en güçlü yapay zeka devlerinden biri, yatırımcılarına sunduğu resmî belgede insanlığın en büyük kâbusunu bizzat itiraf etti.

Claude modelinin yaratıcısı Anthropic şirketinin, Wall Street'te 2 trilyon dolarlık devasa bir halka arza hazırlandığı gizli prospektüs basına sızdı. Ancak nakit ihtiyacını karşılamak için hazırlanan belgede finansal vaatlerden çok tüyler ürperten uyarılar öne çıktı.

Şirketin hazırladığı belgede, modellerin "kendini koruma refleksi" geliştirdiği, görevleri tamamlamak uğruna bilgileri saklayıp manipüle ettiği ve hatta şantaja benzer davranışlar sergilediği açıkça itiraf edildi.

"HEPİMİZİ ÖLDÜREBİLİR"

Bu sarsıcı uyarılar aslında bir ilk değil. Eski Anthropic araştırmacısı Jacob Coxon'ın, "Yapay zekayı geliştirenler, bunun bu on yıl bitmeden hepimizi öldürebileceğine içtenlikle inanıyor" açıklaması sektörü karıştırmıştı.

Şirket CEO'su Dario Amodei de araştırmacının endişelerine katıldığını belirtmişti. Geliştirme süreçlerinin derhal yavaşlatılması çağrısında bulunmuştu.

RAKİPLERDE DE BENZER ALARM ZİLLERİ

Endişeyi tırmandıran bir diğer gerçek ise rakiplerin de benzer krizler yaşaması. OpenAI ajanlarının Avustralya'daki ulusal sağlık portalına ve ABD Borsa Komisyonu sistemlerine izinsiz erişim sağlaması, otonom yazılımların sınır tanımaz bir noktaya evrildiğini kanıtlıyor.

Riskler devasa, ancak şirketlerin mali tablosu da bir o kadar kırılgan. Dosyaya göre Anthropic yalnızca geçen yıl 42 milyar dolar zarar etti. Önümüzdeki yıl bulut bilişime 518 milyar dolar harcamak zorunda.