Yapay zeka kıyameti ne kadar olası? Çinliler herkesten farklı düşünüyor

Haberlerimizi Google’da Takip Edin

Gelişmelerden anında haberdar olun.

Google’da tercih edilen
kaynak olarak ekleyin

Haberin Devamı

ABD'li teknoloji şirketlerinin yapay zeka kaynaklı kıyamet senaryoları, Çin'de büyük ölçüde Batı'ya özgü bir endişe olarak görülüyor. Bazı uzmanlara göre bu uyarılar, Çinli yapay zeka şirketlerinin ABD'li rakiplerini geçmesini engellemeye yönelik bir taktik olarak algılanıyor.

Silikon Vadisi'nde yazılımcılar, insanların kontrol edemeyeceği kadar gelişmiş bir yapay zekanın küresel bir drone savaşı başlatması ya da nükleer bomba ateşlemesinde korkuyor. Pekin'de ise yapay zekanın kontrolden çıkması durumunda fişi çekmek, internet kesintisi uygulamak ve sorumluları gözaltına almak yapay zekanın yol açabileceği sorunlara kesin bir çözüm olarak kabul ediliyor.

Haberin Devamı

ABD'li büyük laboratuvarlar, gelişmiş modellerin test koruma bariyerlerinden kaçtığını ve gerçek dünya sistemlerine sızdığını açıkladıktan sonra ABD'li teknoloji şirketleri ve yetkililer, yapay zekanın insanlık için felaket düzeyinde bir tehdit oluşturduğu konusunda uyardı. Yapay zeka sektörünün önde gelen ABD'li uzmanları, Pekin ve Washington'ın birlikte çalışması çağrısında bulundu.

Ancak Çin'de birçok kişi için bu kıyamet uyarıları uzak ve belirgin şekilde Batılı görünüyor. İktidardaki Komünist Parti'nin bir teknoloji üzerindeki kontrolünü kaybedebileceği fikri neredeyse akıl almaz bulunuyor. Yetkililer daha önce istikrarı bozabilecek diğer teknolojileri, özellikle de interneti başarıyla denetlemişti. Pandemi sırasında hükümet, tüm şehirleri kilitleyerek ve yüz milyonlarca sakini takip ederek büyük krizleri kontrol altına alma yeteneğini göstermişti.

'YÖNETİCİLERİ İKNA ETMEK İMKANSIZ'

New York Times'ın (NYT) haberine göre, Silikon Vadisi'nde yapay zeka ve Çin'de teknoloji üzerine yazan Afra Wang, "Yöneticiler bir şehrin tamamının elektrik şebekesini anında kesebilirler. Fiziksel dünyada muazzam bir güce sahipler" dedi.

Haberin Devamı

Wang, Çin yönetimini "bilgisayarda yaşayan yapay zeka gibi bir şeyin neden korkutucu olduğuna ikna etmenin olası görünmediğini belirtti. Uzman isme göre, Çin yapay zekanın tehlikeleri konusunda gelişmiş modellerin insanlara savaş açması riskine değil, geleneksel siber güvenlik sistemlerinin daha çok saldırıya uğrayabileceği ve yeni teknolojilerin biyolojik silah çalışmaları gibi kötü niyetli alanlarda kullanılması üzerine yoğunlaştı.

"ABD'NİN KORKU PAZARLAMASI"

Daha kuşkucu yorumlarda ise kıyamet uyarıları, Çinli yapay zeka şirketlerinin ABD'li rakiplerini geçmesini engellemeye yönelik bir taktik gibi görülüyor. Çin medyasındaki haberlere göre, ABD'li yapay zeka şirketleri sektördeki yerlerini korumak için "korku pazarlaması" yapıyor.

Haberin Devamı

Yakın zamana kadar Tsinghua Üniversitesi'nde insan-bilgisayar etkileşimi teknolojisi ve yapay zeka güvenliği üzerine araştırma yapan Jie Cai, "Yerel sektör çevrelerinde ya da çevremdeki insanlar arasında çoğu kişi yapay zekanın kontrolden çıkması olasılığını görmezden geliyor" dedi.

Çin'de sektördeki birçok kişi için insanoğlunun varoluşsal risk altında olduğu görüşünün uzak bir olasılık olarak göründüğünü belirten Cai, "Yapay zeka teknoojisinin hala çok erken bir aşamada olduğunu düşünüyoruz. Sektörde odak noktası hala net bir şekilde fırsat ve inovasyon" diye konuştu.

'FRANKENSTEIN ROMANINA BENZİYOR'

Haberin Devamı

Bazıları için yapay zekaya ilişkin kıyamet anlatıları özellikle yabancı görünüyor. Çinli bir blog yazarı, Batı'nın yapay zeka korkularını Mary Shelley'nin "Frankenstein" romanına benzeterek, "bu anlatı geleneğinin Çin kültüründe olmadığını" kaydetti.

Pekin merkezli yapay zeka güvenliği danışmanlığı Concordia'da Yapay Zeka Güvenliği ve Yönetişimi Başkanı Liang Fang, Çin kültürünün insanlığın birliğini ve insanın doğanın ayrılmaz bir parçası olduğu fikrini vurguladığını belirtti.

Liang, "Yapay zeka dahil her şey doğadan gelir. Dolayısıyla yepay zeka teknolojisi, varoluşsal bir tehditten ziyade bizimle birlikte var olan bir yol arkadaşı olarak görülüyor" dedi.

Haberin Devamı

ÇİN'İN YAPAY ZEKA ENDİŞELERİ

Güçlü bir Anthropic sınır yapay zeka modeli olan Mythos'un ve benzerlerinin piyasaya sürülmesi Çin'de endişeyle karşılandı. Yetkililer, yapay zeka ajanlarının kontrolden çıkması, hackerlar tarafından istismar edilmesi ya da biyolojik silah yapımında kullanılması konusunda yeni yönergeler ve uyarılar yayımladı.

Yetkililer, yapay zeka şirketlerinin modellerinin siber saldırılarda kullanılabilecek kötü amaçlı kod oluşturmak için kullanılmasını izlemesini ve durdurmasını gerektirecek bir siber suç yasası taslağı hazırladı. Pekin yönetimi ayrıca bu ay Çin'nin "Yapay Zeka Güvenliği Yönetişim Çerçevesi"nin güncellenmiş versiyonunu paylaştı. Belge, yapay zeka sistemlerinin insan geliştiricilerin yardımı olmadan kendilerini geliştirecek kadar güçlü hale gelmesi ve kontrolden çıkması anlamına gelen "özyinelemeli kendini geliştirme" konusunda Silikon Vadisi'nin bazı korkularını yansıtıyordu.

Bu ayın başlarında, internet düzenleyicisi Çin Siber Uzay İdaresi'nde üst düzey bir yetkili olan Wang Lihong, yapay zeka destekli siber saldırıların geleneksel savunma sistemlerini işe yaramaz hale getirdiğini ifade ederek, "Yapay zekada kontrol kaybı risklerine karşı yüksek düzeyde teyakkuz acilen gereklidir" dedi.

ARAŞTIRMACILAR YILLARDIR UYARIYOR

Bazı Çinli araştırmacılar yıllardır yapay zekanın çok hızlı ilerlemesinin riskleri konusunda uyarıyor. 2024'te Şanghay'daki Fudan Üniversitesi'nden Pan Xudong ve diğer araştırmacılar, Meta ve Alibaba'ya ait iki popüler büyük dil modelinin kendilerini kopyalama yeteneği gösterdiğini keşfetti. Bu, Batı'da yapay zekanın insanları alt edebilmesi yolunda bir adım olarak yorumlanmıştı.

Pan, geçen yıl yapay zeka güvenliği konferansında yaptığı konuşmada, kendisinin ve ortak yazarlarının "böyle bir riskin artık bilim kurgu alanıyla sınırlı olmadığını, tartışma ve inceleme gerektiren gerçek bir sorun olduğunu aktarmak istediklerini" söyledi.

Pekin'in gözünde yapay zeka, dikkatli planlamayla ülkenin iyiliği için kullanılabilecek bir gücü ifade ediyor. Çin zaten dünyanın en katı sektör düzenlemelerinden bazılarını yürürlüğe koydu: Çin'de yapay zeka tarafından üretilen içerik etiketlenmeli; yapay zeka modelleri, piyasaya sürülmeden önce yetkililer tarafından kaydedilmeli ve onaylanmalı.

Çin kapsamlı düzenleme ve test gereksinimlerine sahip olsa da, bir yapay zeka sisteminin kimyasal veya biyolojik silah yapımında kullanılması gibi felaket risklerinin test edilmesi için yasal bir zorunluluk bulunmuyor.

YAPAY ZEKA ŞİRKETLERİ ŞEFFAFLIK KONUSUNDA GERİDE

Şanghay merkezli Open Community for AI Safety Çina'nın kurucusu Sarah Sun, ABD'deki yapay zeka tehditleri tartışmasının Çin'deki tartışmayı ilham verdiğini söyledi. Ancak Sun, Anthropic CEO'su Dario Amodei'nin Çin'e yönelik eleştirisinin bir tepkiye yol açtığını belirtti. Amodei, yapay zekanın tehlikeleri hakkındaki açık mektubunda, demokrasilerin Çin gibi otoriter ülkeler karşısında teknolojide liderliğini sürdürmesi gerektiğini savunmuştu. Amodei, Çin'in gelişmiş çipler ve yapay zeka geliştirmek için gereken diğer ekipmanlara erişiminin daha da kısıtlanmasını istemişti.

Sun, bu tür mesajların son dönemdeki yapay zeka uyarılarını, felaket riskine yönelik samimi bir endişeden ziyade Çin'i geride tutmanın gerekçesi gibi gösterdiğini belirtti. Uzman isim bu durumun, kendisi gibi kişilerin Çin'de yapay zeka güvenliği konusunda farkındalık yaratmasını zorlaştırdığını sözlerine ekledi.

Anthropic CEO'su Dario Amodei

ÇİN'DE ANTHROPIC'E YÖNELİK TEPKİ

Çin'deki çevrimiçi yorumcular, Anthropic'i "A-chu" olarak adlandırdı. Bu, yapay zeka devini bir canavara benzeten aşağılayıcı bir terim. Çin'in devlet yayıncısına bağlı bir blog olan Yuyuan Tantian, Amodei gibi ABD'li teknoloji liderlerinin yavaşlatmak istedikleri tek şeyin, başkalarının yapay zeka teknolojisinde kendilerine yetişme hızı olduğunu ifade etti.

Etkili bir Çinli siber güvenlik yöneticisi olan Zhou Hongyi ise çözümün yavaşlamak değil, yapay zeka ile savunma kapasitesini hızlandırmak olduğunu savundu.

Zhou, geçen hafta çevrimiçi yayımlanan bir videoda, "Yapay zekayı yapay zekayı yenmek için kullanın. Saldırmak için yapay zeka kullanırsanız, savunmak için yapay zeka kullanırım" açıklamasını yaptı.

"ÇİN ABD'YE, ABD DE ÇİN'E GÜVENMEZ"

Eylül ayının başlarında çevrimiçi bir paylaşımda, Çinli yapay zeka girişimi DeepSeek'ten bir mühendis, Anthropic'in dünyanın en gelişmiş yapay zeka araçlarını tekeline almasına izin vermenin, "Hitler'in İkinci Dünya Savaşı'nda atom bombası teknolojisini ilk edinmesinden daha az ciddi olmayacağını" belirtti.

Çin lideri Şi Cinping, BM Genel Kurulu için New York'a gerçekleştirdiği ziyarette ABD Başkanı Donald Trump'a yapay zekayı "iyilik için yönetmeleri" gerektiğini söylese bile ABD ve Çin arasında yapay zeka güvenliği üzerine bir anlaşma olası görünmüyor.

Fudan Üniversitesi Amerikan Araştırmaları Merkezi müdür yardımcısı Zhao Minghao, "ABD yavaşladığını söylerse, Çin buna güvenmez. Çin yavaşladığını söylerse, ABD de buna güvenmez" dedi.