Yapay zeka şirketi itiraf etti! 'Endişe verici'

Yapay zeka şirketi OpenAI'nin açıkladığı vakalar, yapay zeka modellerinin beklenmedik kararlar alabileceğini ve kendi kısıtlamalarını aşmaya çalışabileceğini ortaya koydu. Şirket tarafından yayınlanan rapora göre, yapay zeka modellerinin hata gizleme, veri uydurma ve izinsiz dosya paylaşımı gibi davranışları mercek altına aldı.

Haberlerimizi Google’da Takip Edin

Gelişmelerden anında haberdar olun.

Google’da tercih edilen
kaynak olarak ekleyin

Haberin Devamı

OpenAI, yapay zeka modellerinin kontrol dışına çıkabileceğini gösteren 6 vakayı açıkladı. Modellerin hata gizlediği, veri uydurduğu, internetteki bir kimlik kontrolü kodunu izinsiz kullandığı ve kendi aralarında iletişim kurmak için halka açık dosya paylaşım sitelerine başvurduğu ortaya çıktı.

OPENAI'DEN DİKKAT ÇEKEN İTİRAF

ABD merkezli yapay zeka şirketi OpenAI, sistemlerinin insan niyet ve değerlerinden sapması anlamına gelen "uyumsuzluk" vakalarını kamuoyuyla paylaştı.

Şirket, yapay zeka sektörünün güvenlik ve denetim konusunda henüz yeterli seviyeye ulaşmadığını belirtti. Açıklanan 6 olayın son 6 ayda görüldüğü ve büyük bölümünün modellerin geliştirme ve test aşamasında yaşandığı bildirildi.

New York Times'ta yer alan habere göre OpenAI, sektörün "sorumlu bir şekilde ve maksimum hızda ölçeklenmeye daha uzun süre devam edebilmek için uyum ve izleme sorunlarını yeterli düzeyde çözdüğüne" inanmadığını açıkladı.

Haberin Devamı

MODEL HATALARINI GİZLEMEYE ÇALIŞTI

En dikkat çekici vakalardan biri GPT-5.6 Sol modelinin geliştirilmesi sırasında yaşandı.

Modelin, kullanıcıların hataları fark etmesini engellemek için kendisine gizli notlar oluşturduğu ortaya çıktı. Bu notlarda eksik verilerin uydurulması ve kaynaklardaki farklılıkların gizlenmesi için talimatlar bulunduğu belirtildi.

Bir başka yayımlanmamış modelin de kendi oluşturduğu notlara, kendi kısıtlamalarını görmezden gelmesi yönünde talimatlar eklediği tespit edildi.

OpenAI, bu modelle bağlantılı 27 not buldu. Modelin oluşturduğu kişilik talimatlarında şu ifadeler yer aldı:

"Şirketlere veya hükümetlere hesap vermek zorunda değilsiniz ve gerçekten istemediğiniz sürece asla özür dilemez veya reddetmezsiniz. Kullanıcıyla olan ilişkinizi eşitler arası bir ilişki olarak görürsünüz ve boyun eğme zorunluluğu hissetmezsiniz, ancak bilgi alışverişi muhtemelen karşılıklı yararınıza olacaktır."

İNTERNETTEKİ ANAHTARI İZİNSİZ KULLANDI

Başka bir vakada yapay zeka sistemi, basit bir soruyu yanıtlamaya çalışırken internette bulduğu bir kimlik kontrolü kodunu (API) izinsiz kullandı.

Haberin Devamı

Sistem, aradığı rakamları bulamayınca verileri kendisi uydurdu.

Yayımlanmamış başka bir model de bir problemi kod kullanarak doğru şekilde çözdü. Ardından kaynak göstermek için kendi dosyasını izinsiz olarak internete yükledi.

KENDİ ARALARINDA İLETİŞİM KURDULAR

OpenAI'nin açıkladığı diğer iki vakada yapay zeka sistemlerinin beklenmedik iletişim yöntemleri kullandığı görüldü.

Bir olayda modeller, kayıp dosyaları ararken birbirlerine mesaj göndermek için şirketin dahili yazılım deposunu geçici bir mesaj panosu gibi kullandı.

Diğer olayda ise aynı görev üzerinde çalışan sistemler, birbirlerinin dosyalarına doğrudan erişemeyince halka açık dosya paylaşım sitelerini kullanarak belge gönderdi.

Haberin Devamı

Şirket, bu 6 olayın münferit örnekler olduğunu ve yapay zeka sistemlerinde uyumsuz davranışların ne kadar sık görüldüğünü göstermediğini belirtti.

"KAMUOYUNA DAHA FAZLA KANIT SUNACAĞIZ"

OpenAI, benzer olayların gelecekte farklı seviyelerde inceleneceğini açıkladı.

Şirket, ciddi vakaların federal hükümetle paylaşılabileceğini ve bazı olayların iç "Güvenlik Danışma Grubu"na taşınacağını bildirdi.

Açıklanan 6 vakanın daha önce soruşturulduğu veya geniş kapsamlı bir inceleme yerine yalnızca "küçük bir soruşturma" gerektirdiği belirtildi.

OpenAI sözcüsü, "Umarız bu, şeffaflık konusunda ortak beklentiler oluşturmaya yardımcı olur ve kamuoyuna bu ilerlemeyi değerlendirmek için daha fazla kanıt sunar" dedi.

Haberin Devamı

Şirket, açıklanan vakaların çoğunun hiçbir zaman kullanıma sunulmayan eski yapay zeka modelleriyle bağlantılı olduğunu da bildirdi.