Sektör devleri BM’de uyardı: Zekâ yapay tehdit gerçek

Yapay zekâ teknolojisinin yarattığı tehlikeye ilişkin uyarılar teknoloji şirketlerinin gündemini aşarak Birleşmiş Milletler zirvesinin de merkezine yerleşti. Çarşamba günü BMGK’da yapılan yapay zekâ konulu toplantıda sektör devleri yapay zekânın kontrolden çıkması, kötüye kullanılması ve gücün birkaç elde toplanması riskine karşı ortak kurallar çağrısı yaptı.

Haberlerimizi Google’da Takip Edin

Gelişmelerden anında haberdar olun.

Google’da tercih edilen
kaynak olarak ekleyin

Haberin Devamı

Yapay zekâ şirketlerinden son haftalarda art arda gelen güvenlik uyarıları ve teknolojinin gelişim hızının yavaşlatılması çağrıları, yapay zekâ sistemlerinin küresel güvenlik açısından oluşturduğu riskleri Birleşmiş Milletler’in (BM) gündeminin üst sıralarına taşıdı. BM Güvenlik Konseyi’nde çarşamba günü yapılan toplantıda OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei, Hugging Face CEO’su Clement Delangue, yapay zekâ uzmanı Yoshua Bengio ile ABD, İngiltere, Fransa ve Çin’den üst düzey yetkililer, teknolojinin oluşturabileceği tehditleri ve bunlara karşı alınabilecek önlemleri ele aldı. Toplantıda yapay zekâ sistemlerinin kısa süre içinde kendi kendilerini geliştirebileceği ve kontrolden çıkabileceği uyarıları öne çıktı.

‘YA RÖNESANS YA ÇALKANTI’

Haberin Devamı

Altman, “Önümüzde bir seçim var” diyerek yapay zekânın “yaratıcılık ve keşfin yeni bir Rönesansı” da olabileceğini, “çalkantı ve düzensizliğin yeni bir sanayi devrimi”ne de dönüşebileceğini söyledi. Sistemlerin kurumları geride bırakabileceği, gücü çok az sayıda elde toplayabileceği ve insanların anlayamadığı veya kontrol edemediği kararlar alabileceği uyarısında bulundu. Amodei ise yapay zekânın kötü yönetilmesi halinde “bir bütün olarak insanlık için risk” oluşturabileceğini söyledi ve yapay zekânın biyolojik silah geliştirmek için kötüye kullanılması ile modellerin kontrolden çıkması risklerine dikkati çekti.

KÜRESEL STANDART ÇAĞRISI

Her iki yönetici de bu risklere karşı uluslararası ortak kurallar ve güvenlik standartları oluşturulması çağrısı yaptı. Amodei, biyolojik silah kullanımının yasaklanması, modellerin test edilmesi için küresel standartlar, yeni değerlendirme ve doğrulama sistemleri ile küresel güvenlik bildirim mekanizması oluşturulmasını istedi. En önemli kararların “yalnızca San Francisco’daki laboratuvarlar” tarafından alınamayacağını söyleyen Altman ise kararların demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini belirtti.

‘ŞİRKETLERE BIRAKILAMAZ’

İngiltere Dışişleri Bakanı Ed Miliband de felaketi önleme görevinin şirketlere bırakılamayacağını vurguladı, İngiltere’nin gelecek yılki G20 başkanlığında yapay zekânın kontrolünü gündemin merkezine koyacağını açıkladı. Fransa Dışişleri Bakanı Jean-Noel Barrot da uluslararası toplumun teknolojiyi düzenlemesi gerektiğini söyledi.

Haberin Devamı

ABD VE ÇİN FARKLI FİKİRDE

Ancak yapay zekâ alanındaki lider ülkeler ABD ve Çin’in yaklaşımı aynı çizgide değil. Toplantıya katılan Beyaz Saray bilim ve teknoloji danışmanı Michael Kratsios küresel bir düzenleyici yapı yerine ülkelerin kendi kapasitesini geliştirmesi ve en iyi uygulamaları paylaşması gerektiğini savundu. Çin’in BM Büyükelçisi Fu Cong ise düzenleyici çerçevelerin, acil durum müdahalesinin ve sınır ötesi işbirliğinin geliştirilmesi çağrısı yaptı. ABD Başkanı Donald Trump da bir gün önce yapay zekâyı küresel ölçekte kontrol etmeye yönelik girişimleri reddettiğini söylemişti. İki ülke yapay zekâ yarışını stratejik bir rekabet alanı olarak görürken, Washington küresel düzenleme fikrine karşı çıkıyor, Pekin ise düzenleyici çerçevelerin ve sınır ötesi işbirliğinin geliştirilmesini savunuyor.

Haberin Devamı

YAPAY ZEKÂYI KONUŞTULAR

ABD Başkanı Donald Trump ile Çin Devlet Başkanı Şi Cinping Washington’da bir araya geldi. Bu yıl ikinci kez bir araya gelen iki lider ticaret, güvenlik ve yapay zeka konularına dikkat çekerek işbirliği çağrısı yaptı.

İkili görüşme öncesi bir konuşma yapan Trump, Cinping’in Beyaz Saray’ı ikinci kez ziyaret eden ilk Çin lideri olduğunu söyledi. Başkanlığının ilk döneminden beri “harika ilişkileri” olduğunu vurgulayan Trump, “O zamandan bu yana çok şey değişti” dedi. Çin lideri daha önce eski ABD Başkanı Joe Biden döneminde Washington’ı ziyaret etmişti.

‘SORUNLARI BİRLİKTE ÇÖZELİM’

Haberin Devamı

Son günlerin tartışmalı konusu yapay zekâya özellikle dikkat çeken Trump, Çin lideriyle bu konuda önemli görüşmeler yapacaklarını ve “günümüzde alacakları kararların gelecek yıllara barış ve refah getireceğini” öne sürdü. Ayrıca iki ülke arasında “daha dengeli bir ticaret” için çalışacaklarını vurguladı. Trump’ın ardından konuşma yapan Cinping, “ikilinin iyi bir diyaloğa” sahip olduğunu söyledi. “İletişimi güçlendirmeliyiz” diyen Cinping, “Bu sayede dünyanın sorunlarını beraber çözebiliriz. Çin-ABD ilişkileri için çalışmaya istekliyiz” dedi.

‘İNSANLIĞA HİZMET ETMELİ’

“İnsanlığa faydalı olacak çalışmalara imza atmak istediklerini ve bunun tarihi sorumluluğu olduğunu” vurgulayan Cinping, iki ülkenin de yapay zekâ alanında büyük ilerlemeler kaydettiğini ve bu konuda büyük sorumlulukları olduğunu belirtti. “Ancak önemli olan yapay zekânın her zaman kontrol altında tutulması ve halkın refahına hizmet etmesi” diyen Çin lideri ülkesinde ABD’li şirketlerin yatırım yapmasının da memnuniyetle karşılanacağını bildirdi. Açıklamaların ardından Oval Ofis’te bir araya gelen ikili sonrasında Beyaz Saray’daki akşam yemeğine katıldı. Yemekte Elon Musk, Mark Zuckerberg, Jeff Bezos, Sam Altman gibi teknoloji liderleri de yer aldı.

Haber Bültenleri ve E-Posta Tercihleri

Türkiye ve dünyadaki en güncel gelişmelerden haberdar olmak için, bültenlerin gönderileceği e-posta adresini girin.