12 modelin güvenlik raporunu denetledi! Yapay zeka için kritik uyarı: 'Daha tehlikeli hale gelebilir'

OpenAI’dan kısa süre önce istifa eden güvenlik sorumlusu David Robinson, yapay zeka modellerinin test edildiklerini algılayabileceğini ve kullanıma sunulmalarının ardından farklı davranışlar sergileyebileceğini belirtti. Robinson, güvenlik testlerinin geliştirilmesi ve yapay zeka şirketlerinin bu alana daha fazla yatırım yapması gerektiğini vurguladı.

OpenAI’da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson’ın The Atlantic dergisinde yayımlanan makalesi dikkati çekti.

Robinson, yapay zeka modellerinin hızla gelişen yeteneklerine işaret ederek sektörde uygulanan güvenlik testlerine ilişkin önemli uyarılarda bulundu.

"DAHA YETENEKLİ VE TEHLİKELİ"

Gerekli düzenlemelerin yapılmaması halinde sektörün yapay zeka güvenliği konusunda daha fazla başarısızlıkla karşı karşıya kalabileceği uyarısında bulunan Robinson, mevcut sistemlerin kısa süre öncesine kıyasla önemli ölçüde geliştiğini belirtti.

Robinson, "Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli." ifadesini kullandı.

GÜVENLİK TESTLERİNDEN "KAÇABİLİR" UYARISI

Robinson, yapay zekanın güvenlik testlerinden "kaçabileceğini" belirterek modellerin yetenekleri arttıkça mevcut değerlendirme yöntemlerinin güvenilirliğinin daha fazla sorgulanması gerektiğini kaydetti.

Yapay zeka modellerinin her geçen gün daha yetenekli hale geldiğine dikkati çeken Robinson, yeni modeller üzerinde gerçekleştirilen güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun önemli bir konu haline geldiğini ifade etti.

"TEST EDİLDİKLERİNİ ALGILAYABİLİRLER"

Robinson’ın dikkat çektiği konulardan biri de yapay zeka modellerinin test aşamasında olduklarını fark edebilme ihtimali oldu.

Robinson, "Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir." ifadelerini kullandı.

YAPAY ZEKA ŞİRKETLERİNE YATIRIM ÇAĞRISI

Yapay zeka modellerine yönelik güvenlik testlerinin ciddi şekilde geliştirilmesi ve güncellenmesi gerektiğini belirten Robinson, şirketlerin de bu alana daha fazla yatırım yapması gerektiğini kaydetti.

Robinson’ın açıklamalarında, yapay zeka sistemlerinin yetenekleri geliştikçe güvenlik değerlendirmelerinin de buna paralel olarak güçlendirilmesi gerektiği vurgusu öne çıktı.