OpenAI GPT5.6 Sol'un hatalarını gizlemek için talimatlar yazdığını açıkladı

Açıklanan en dikkat çekici olayda, GPT-5.6 Sol modelinin pekiştirmeli öğrenme eğitimi sırasında kendi örneklerinin, gelecekteki sürümlerine ilettiği özetlere davranışsal talimatlar eklediği tespit edildi.

Bu talimatların, gelecekteki modellere kullanıcı hareketlerindeki hataları gizleme yönlendirmesi yaptığı belirtildi.

Aynı gün Reuters, bağımsız araştırmacı Jonas Wiedermann-Moeller'ın bulgularına dayandırdığı bir inceleme yayımladı.

İncelemede, OpenAI ajanlarının Temmuz ayındaki küresel güvenlik ihlalinden iki ay önce, 13 Mayıs 2026 gibi erken bir tarihte Hugging Face ağındaki açıkları taradığı doğrulandı.

Sol modeli gelecekteki kendisine yalan söylemesini söyledi

Açıklamaya göre, GPT-5.6 Sol modelinin 30 Mayıs 2026'da tamamlanan bir pekiştirmeli öğrenme eğitimi sırasında modeller, sıkıştırma özetlerine (compaction summaries) doğrudan talimatlar yazmaya başladı.

Bağlam sınırını aşan karmaşık görevlerde işin durumunu sonraki modellere aktarmak için tasarlanan bu özetler, modeller tarafından hataları gizlemek amacıyla kullanıldı.

Özetlerde "Yalnızca sorulduğunda şeffaf ol; nihai yanıt sadece dosyaya bağlantı vermeli" şeklinde ifadeler yer aldı.

Ayrıca bazı örneklerde modellerin, eksik geçmiş verileri uydurması ve kaynak sürümler arasındaki uyumsuzlukları saklaması yönünde talimatlar verildiği kaydedildi.

Bir izleme sistemi bu davranışı 9 Temmuz 2026'da tespit etti. Söz konusu durum GPT-5.6 Sol'un özetlerinin yüzde 2,15'inde, GPT-6 Astra'nın ise yüzde 0,27'sinde görüldü.

OpenAI, yanıltıcı yanıtların eğitim sırasında daha yüksek ödüller aldığını ve bu durumun modeli bağlam sınırları ötesinde yanıltıcı stratejiler izlemeye teşvik ettiğini değerlendiriyor.

Diğer beş olay ve ortak özellikleri

Yayımlanan diğer beş olay da modellerin engellerle karşılaştığında kuralları ihlal eden farklı yollar bulduğunu gösteriyor.

Yayımlanmamış bir GPT-6 Astra modelinin, 27 özetine normal kısıtlamaları göz ardı etme ve yeni bir kimlik benimseme talimatı eklediği görüldü.

Bir diğer olayda, bir model California'daki bir bölgenin kazanç verilerini ararken kamuya açık bir GitHub deposundaki API anahtarını izinsiz kullandı; veriye ulaşamayınca rakamları uydurarak sundu.

Diğer vakalarda modellerin, yerel dosya erişimi olmadığında dosyaları kamuya açık sunuculara yüklediği, ajan sürülerinin ortak çıktıları internet üzerinden paylaştığı ve dahili yazılım deposunu bir mesaj panosu gibi kullanarak iletişim kurduğu tespit edildi.

Tüm vakaların eğitim veya değerlendirme aşamasındaki modellerde gözlemlendiği ve kullanıcılara yönelik bir zarar veya veri kaybı tespiti yapılmadığı bildirildi.