Yapay zekada "acil kapatma tuşu" çalışmaları için karar

California Valiliğinden yapılan yazılı açıklamaya göre Newsom, son dönemdeki risk teşkil eden yapay zeka vakaları üzerine harekete geçti.

Vali Newsom, yapay zeka teknolojisini geliştiren şirketlerin bağımsız şekilde denetlenmesini ve ürettikleri modeller için "acil kapatma tuşu" çalışmalarının hızlandırılmasını öngören kararnameye imza attı.

Kararname uyarınca eyaletin yapay zeka güvenliğine ilişkin yasalarını güçlendirmek için bir grup uzman, iki ay içinde bir araya gelerek kılavuz hazırlayacak.

Açıklamada değerlendirmelerine yer verilen Newsom, "Yapay zeka şirketlerinin yöneticileri düzenlemeler getirilmesi için yalvarırken federal hükümetin yapay zeka konusunda anlamlı bir denetim veya hesap verebilirlik mekanizması oluşturmadaki üst düzey başarısızlığı her Amerikalıyı endişelendirmelidir." ifadesini kullandı.

Risklerin, harekete geçmeyi erteleyemeyecek kadar yüksek olduğunu ifade eden Newsom, kapsamlı yapay zeka denetimi çalışmalarını "çok geç olmadan" hızlandıracaklarını kaydetti.

ABD'nin California eyaleti, yapay zeka sektörünün önde gelen firmalarına ev sahipliği yapıyor.

Anthropic CEO'sundan yapay zeka gelişimini yavaşlatma önerisi

ABD'li yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, firmadaki araştırmacı Jacob Coxon'ın yapay zeka geliştirme sürecinin sorumlu yürütülmediği gerekçesiyle istifasının ardından internet sitesinde makale yayımlamıştı.

Amodei, yapay zeka teknolojisinin hızla gelişmesinin, sistemleri anlama ve kontrol etme kapasitesini zora sokabileceği uyarısında bulunarak, bu teknolojinin gelişiminin denetime daha fazla olanak sağlayacak şekilde yavaşlatılmasını önermişti.

Yapay zeka şirketlerinin bir araya gelerek güvenlik standartları belirlemesi gerektiğine dikkati çeken Amodei'ye, Elon Musk destek vermiş, OpenAI Üst Yöneticisi Sam Altman da öneriye katıldığını ve bağımsız değerlendirme konusunda aynı adımı atacağını kaydetmişti.

ABD Başkanı Donald Trump, yapay zekaya ve veri merkezlerine karşı "hastalıklı bir komplo yürütüldüğünü" öne sürerek, "bundan memnuniyet duyan tek tarafın Çin olduğunu" savunmuştu.

Çin Dışişleri Bakanlığı Sözcüsü Guo Ciakun da "Korkuları körüklemek, cepheleşme ve acımasız rekabet, küresel yapay zeka yönetimine zarar vermekten başka işe yaramaz, bu da kimsenin menfaatine değildir." değerlendirmesinde bulunmuştu.