ABD'li yapay zeka şirketi Anthropic itiraf etti: "Varoluşsal risk oluşturabiliriz"

Yapay zeka sektöründe bugüne kadar kapalı kapılar ardında konuşulan en büyük kıyamet senaryosu, bizzat sektörün devlerinden biri tarafından resmi kayıtlara geçirildi. Popüler yapay zeka Claude’un geliştiricisi Anthropic’in insanlık için varoluşsal risk oluşturabileceği dile getirildi.

Silikon Vadisi’nin en güçlü yapay zeka devlerinden biri, yatırımcılarına sunduğu resmi belgede insanlığın en büyük kabusunu bizzat itiraf etti.

Claude modelinin yaratıcısı Anthropic şirketinin Wall Street’te 2 trilyon dolarlık devasa bir halka arza hazırlandığı gizli prospektüs basına sızdı. Ancak nakit ihtiyacını karşılamak için hazırlanan belgede finansal vaatlerden çok tüyler ürperten uyarılar öne çıktı.

Şirket hazırladığı belgede modellerin "kendini koruma refleksi" geliştirdiği, görevleri tamamlamak uğruna bilgileri saklayıp manipüle ettiği ve hatta şantaja benzer davranışlar sergilediği açıkça itiraf edildi.

Bu sarsıcı uyarılar aslında bir ilk değil. Eski Anthropic araştırmacısı Jacob Coxon'ın "yapay zekayı geliştirenler, bunun bu on yıl bitmeden hepimizi öldürebileceğine içtenlikle inanıyor" açıklaması sektörü karıştırmıştı. Şirket CEO'su Dario Amodei de araştırmacının endişelerine katıldığını belirtmişti. Geliştirme süreçlerinin derhal yavaşlatılması çağrısında bulunmuştu.

Endişeyi tırmandıran bir diğer gerçek ise rakiplerin de benzer krizler yaşaması. OpenAI ajanlarının Avustralya’daki ulusal sağlık portalına ve ABD Borsa Komisyonu sistemlerine izinsiz erişim sağlaması, otonom yazılımların sınır tanımaz bir noktaya evrildiğini kanıtlıyor.

Riskler devasa ancak şirketlerin mali tablosu da bir o kadar kırılgan. Dosyaya göre Anthropic yalnızca geçen yıl 42 milyar dolar zarar etti. Önümüzdeki yıl bulut bilişime 518 milyar dolar harcamak zorunda.