OpenAI'daki güvenlik açığı, Claude ile keşfedildi

Büyük şirketlerin dijital altyapılarındaki güvenlik açıklarını keşfedip bildiren Hacktron AI şirketinin siber güvenlik ekibi, OpenAI tarafından kullanılan bir tartışma forumunda yazılım hatası keşfetti.

Gelişmeyi hesaplarından paylaşan araştırmacıların açıklamalarına ve ABD basınında yer alan haberlere göre araştırmacılar, Anthropic'in Claude modelini kullanarak OpenAI'nin kullandığı tartışma forumundaki bir güvenlik açığını istismar etti ve elde ettikleri kimlik doğrulama sistemleri üzerinden bazı OpenAI çalışanlarının hesaplarına ve şirketin yazılım deposuna erişim sağladı.

Tespit ettikleri bulguları OpenAI'a bildiren araştırmacılar, karşılığında şirketten para ödülü aldı.

Araştırmacılar, bu "kontrollü saldırının", devlet destekli ve siber alanda ileri düzey yetkinliğe sahip kişilerin bir ülkenin yapay zeka alanındaki gizli bilgilerine erişebileceğini gösterdiğini belirtti.

Araştırmayı gerçekleştiren siber güvenlik şirketi Hacktron AI'ın teknoloji direktörü Mohan Pedhapati, Çinli aktörler kadar güçlü olduklarını sanmadıklarını belirterek, "Biz sadece Claude ve Codex abonelikleri olan üç kişiyiz." dedi.

Nasıl başarılı oldular?

OpenAI'ın tartışma forumunun, bazı görsel dosyalarını işleme biçiminde bir hata tespit eden araştırmacılar, nitelikli siber güvenlik uzmanlarının kullanımına sunulan özel bir Claude Opus 4.8 sürümüne erişerek bu modelden, söz konusu açığı bir siber saldırıda istismar edecek kodu yazmasını istedi.

İlk başta bu sürüm başarısız olsa da Anthropic aynı akşam Opus 5'i piyasaya sürdü ve ertesi gün Claude, bu açığı istismar etmenin bir yolunu buldu. Claude'un ürettiği saldırı kodu araştırmacıların OpenAI'ın tartışma forumunu barındıran sunucuya erişmesini sağladı. Araştırmacılar burada, kullanıcıların çevrim içi hizmetlere erişmesini sağlayan kimlik doğrulama sistemlerine eriştiler.

Araştırmacılar, OpenAI'nin yazılım deposu olan "GitHub" hizmetine erişim sağlamak için de kullanılabilen bu kimlik doğrulama sistemlerinin, ChatGPT'de geçerli olduğunu ve bazılarının OpenAI çalışanlarına ait olduğunu tespit etti.

Şirket içi hassas verilere erişebileceklerini anlayan araştırmacılar, sadece bir çalışanın hesabından, hassas hiçbir koda dokunmadan, OpenAI'ın kendi iç kod deposuna "zararsız bir değişiklik" talebi gönderdi.

Bu talebi, OpenAI sistemlerine erişim sağladıklarına dair kanıt olarak gönderen araştırmacılar, söz konusu açığı OpenAI ve şirketin tartışma forumu için yazılım yapan Discourse şirketine bildirdi.

Bildirim üzerine güvenlik açığının giderildiğini bildiren OpenAI, araştırma ekibine 6 bin 500 dolar değerinde ödül verdi.

OpenAI, "Araştırmacılara bizimle iletişime geçerek bulgularını paylaştıkları için teşekkür ediyoruz. Topluluk forumundaki oturum açma tokenlarının yetkilerini sınırlandırdık ve etkilenen tokenları ve oturumları iptal ettik." ifadesini kullandı.

Anthropic'ten bir sözcü, gazetenin konuya ilişkin yorum talebini geri çevirdi.

Token, bir blokzincir üzerindeki dijital varlığı ifade ediyor.