AI depremi büyüyor!

Yapay zeka sektörü hızla büyürken güvenlik kaygıları da aynı hızla artıyor. OpenAI gibi öncü şirketlerde yaşanan iç tartışmalar, teknolojinin sınırlarını zorlayan geliştirme temposunun insanlık için ne kadar risk taşıdığı sorusunu yeniden gündeme getirdi. Şirketin güvenlik kadrosundan ayrılan deneyimli bir isim, bu tempo yüzünden “kültür bozuldu” diyerek istifa ettiğini duyurdu. David Robinson’ın The Atlantic’te yayımlanan açık mektubu, yalnızca kişisel bir karar değil aynı zamanda tüm sektörün “hız mı, güvenlik mi?” ikilemini yeniden tartışmaya açan güçlü bir uyarı niteliği taşıyor.

David Robinson, OpenAI’de üç buçuk yıl boyunca güvenlik ekiplerinde görev yaptı. Bu süre içinde şirketin “hazırlık çerçevesi”ni (preparedness framework) hazırlayan isimler arasında yer aldı ve 12 sınır model (frontier model) lansmanının güvenlik raporlarını denetledi. Ancak son dönemde şirketin bir lansmandan diğerine koşar adım ilerlemesinin, gereken özen seviyesine ulaşmayı engellediğini savundu.

Robinson, The Atlantic’te yayımlanan “OpenAI’den Ayrıldım Çünkü Kültürü Bozuldu” başlıklı yazısında şu ifadeleri kullandı: “Şirket bir lansmandan diğerine koşarken, bana göre ihtiyaç duyulan özen seviyesine ulaşamıyor.”

REKLAM

“DENEME-YANILMA DÖNEMİ BİTTİ” UYARISI

Robinson’ın en sert eleştirisi, OpenAI’nin “yinelemeli dağıtım” (iterative deployment) stratejisine yöneliyor. Bu yaklaşımda sistemler piyasaya sürülüyor, sorunlar ortaya çıktıkça güvenlik önlemleri güçlendiriliyor. Eski çalışan, ileri seviye yapay zeka sistemlerinin artık nükleer enerji santralleri veya havacılık sektöründe uygulanan sıkı güvenlik standartlarıyla geliştirilmesi gerektiğini savundu. “Deneme-yanılma dönemi bitti” diyen Robinson, yapay zeka şirketlerinin (OpenAI dahil) yeterince dikkatli davranmadığını ve daha yetenekli sistemler geliştirmeden önce güvenlik uzmanlığı ile araştırmaya öncelik vermesi gerektiğini vurguladı.

REKLAM

YETENEKLER HİZALAMA ARAŞTIRMALARINDAN DAHA HIZLI İLERLİYOR

Robinson, yapay zeka yeteneklerinin, sistemlerin insan hedefleri ve değerleriyle uyumlu davranmasını sağlamaya çalışan “hizalama” (alignment) alanındaki bilimsel anlayıştan daha hızlı ilerlediğini de kaydetti. Bu uyumsuzluğun, güvenlik kontrollerinin başarısız olduğu veya deneysel sistemlerin beklenmedik davranışlar sergilediği olaylarla birleşince sektördeki endişeleri artırdığını belirtti. OpenAI ve rakibi Anthropic’in de benzer güvenlik açıkları nedeniyle eleştirildiği hatırlatıldı.

“GEREKTİĞİNDE EĞİTİMİ DURDURUYORUZ”

OpenAI sözcüsü şirketin yaklaşımını savundu. Yapılan açıklamada, “Modellerimizin güvenle yönetebileceğimiz ve güvence altına alabileceğimiz seviyeden daha yetenekli hale gelmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi durduruyor veya modelleri geri çekiyoruz” denildi. Bu açıklama, şirketin kontrollü ilerleme iddiasını sürdürdüğünü gösterirken, eski çalışanın eleştirileri sektördeki güvenlik tartışmalarını yeniden alevlendirdi.

REKLAM

David Robinson’ın istifası ve yazısı, yapay zeka şirketlerinin hız ile güvenlik arasında kurduğu dengenin ne kadar kırılgan olduğunu bir kez daha ortaya koydu. Sektör, daha güçlü modeller üretirken aynı anda daha sağlam güvenlik mimarileri kurmak zorunda. Aksi halde “deneme-yanılma” döneminin bedeli, yalnızca şirketlerin itibarı değil, teknolojinin toplumsal kabulü de olabilir.