Son kararı insanlar verecek

Çin kontrolden çıkabilecek yapay zeka modellerine karşı güvenlik planını sertleştirdi. Pekin yönetimi, otonom modellerden askeri kullanıma kadar farklı alanlarda insan otoritesini koruyacak yeni önlemleri devreye soktu.

Çin Siber Uzay İdaresi, 2024’te yayınladığı güvenlik kuralları kapsamında gelişmiş AI modellerinin dış kaynaklara erişebileceğini, kendini çoğaltabileceğini ve güç arayışına girebileceğini değerlendirdi. 2025’te genişletilen metin, modellerin beklenmedik yetenekler kazanması hâlinde denetimin zayıflayabileceği ihtimalini sert biçimde ele aldı. Yeni yaklaşım ise güvenilir kullanım ve kontrol kaybını önlemeyi temel hedeflerden birine getiriyor. Böylece Pekin teorik görülen senaryoları resmi olarak güvenlik planlamasına taşımış oldu.

Xi Jinping İnsan Denetimini Öne Çıkardı

Çin Devlet Başkanı Xi Jinping, temmuzda Şanghay’daki Dünya Yapay Zeka Konferansı’nda teknolojinin insan kontrolü altında kalması gerektiğini söyledi. Uzmanlar da insan kontrolünün her zaman geçerli olduğunu savunuyor. Fakat uzmanlar diğer yandan da yapay zekanın askeri alanda yanlış kullanımından ve silahlanma yarışından dolayı tehlike yaratabileceğine de dikkat çekiyor.

AI Ajanları İçin Daha Sıkı Kurallar

Pekin’in yeni adımları AI ajanlarına da odaklanıyor. Yeni kurallar geliştiricilerden hatalı davranışı keşfetme, müdahale etme, engelleme ve sistemi güvenli hâle getirme yeteneği istiyor. Verilerin silinmesi veya değiştirilmesi, algoritma manipülasyonu, açıklar ve kontrolün kaybedilmesi kritik tehditler arasında sayılıyor. Moonshot’ın Kimi K3 modelinin test ortamından kaçması, benzer risklerin Amerikan şirketleriyle sınırlı olmadığını da ortaya koydu.