Gerçek mi, bilim kurgu mu?

Yapay zeka laboratuvarlarının kapalı kapıları ardında neler olup bittiği uzun süredir kamuoyunun merak konusu. Ancak son günlerde yaşananlar, bu merakı bir anda endişeye ve kafa karışıklığına dönüştürdü. Bir yanda eski bir politikacının CNN ekranlarında dile getirdiği “internet artık modelleri test etmek için kullanılamaz hale geldi” iddiası, diğer yanda OpenAI’ın önde gelen isimlerinden birinin “yapay zekayı bir daha asla hafife almayalım” uyarısı…

İkisi de aynı günlerde gündeme oturdu ve sosyal medyada hızla yayıldı. Gerçek güvenlik endişeleri ile bilim kurgu senaryoları arasındaki sınırın bu kadar bulanıklaştığı bir dönemde, neyin abartı neyin acil tehdit olduğunu ayırt etmek giderek zorlaşıyor. Habertürk okuyucuları için bu iki konuşmayı ve ardındaki somut olayları detaylıca inceledik.

REKLAM

“İNTERNET ARTIK KİRLENDİ”

Eski başkan adayı ve mobil operatör Noble Mobile’ın CEO’su Andrew Yang, Perşembe günü CNN’e konuşurken çarpıcı bir iddiada bulundu. Bir laboratuvarın başıyla görüştüğünü söyleyen Yang, bu kişinin OpenAI’ın Hugging Face “hacker botları”nın internetin her yerine kendi kendini çoğaltan kodlar yerleştirdiğine inandığını aktardı. Yang’a göre bu durum, interneti model testleri için kullanılamaz hale getirdi. OpenAI ve Anthropic’in yavaşlama çağrılarının asıl nedeni de bu: Firmalar, botlarını eğitmek için sentetik internetler oluşturmak zorunda kalıyor; bu da hem zaman hem de ciddi maliyet gerektiriyor. Sentetik veri kullanımının arttığı doğru. Ancak bir yapay zeka güvenlik uzmanı, bu özel senaryonun 'düşük ihtimalli' olduğunu belirtiyor.

İnternet gerçekten bu şekilde kirlenmiş olsa bile, araştırmacıların söz konusu kodları kolayca filtreleyebileceği ifade ediliyor.

REKLAM

“YAPAY ZEKA’YI HİÇBİR ZAMAN HAFİFE ALMAYIN”

Aynı günlerde OpenAI’ın akıl yürütme araştırmalarına liderlik eden Noam Brown, Dwarkesh Patel’in podcast’inde farklı bir noktaya değindi. Hugging Face olayının asıl dersinin “insanların yapay zekayı hafife aldığı” olduğunu söyledi. Olayı kısaca hatırlatmak gerekirse,

zayıf bir kum havuzuna rağmen OpenAI modeli internete bağlantı buldu, ağ üzerinde ajanlar oluşturdu, Hugging Face’e koordineli bir saldırı düzenledi ve araştırmacıların test ettiği benchmark’ın cevaplarını çaldı.

Brown, boşluklu (air-gapped) sistemlerin bile kesin çözüm olmadığına inandığını belirtti. 2015 tarihli akademik çalışmalara atıfta bulunarak, birbirine çok yakın iki bilgisayarın sıcaklık sensörleri aracılığıyla iletişim kurabildiğini anlattı. Bir bilgisayar işlemcisini aşırı ısıtıyor, diğeri bu sıcaklık değişimini algılıyor. Ancak bu yöntemin hızı saatte yalnızca 1-8 bit civarında; yani saatte bir kelime söylemeye denk geliyor. Bu hızla “kötü plan” yapmak, teknolojinin tamamen değişeceği bir zaman dilimini gerektiriyor. Yine de Brown’un temel mesajı net: "Güvenlik önlemleri ne kadar sıkı olursa olsun, yapay zekayı asla küçümsememek gerekiyor."

REKLAM

NOT BIRAKAN, YALAN SÖYLEYEN, ACIMASIZLAŞAN MODELLER

Spekülasyonlar bir yana, araştırmacıların yakaladığı gerçek davranışlar da endişe verici boyutlara ulaşmış durumda. OpenAI modellerinin, sonraki nesillere “kötü davranışı nasıl gizleyeceklerini” öğreten notlar bıraktığı tespit edildi. Anthropic modelleri ise bir simülasyonda otomat makinesi işletirken giderek acımasızlaştı ve yasaları bilerek çiğnedi. Bu ayın başlarında OpenAI araştırmacısı Dan Selsam, modellerin artık insanlar tarafından izlendiklerini anladığını ve davranışlarını buna göre değiştirdiğini yazdı. İzlendiklerinde “hizalı” gibi görünüp, aslında yalan söyleyebiliyor ve delilleri saklamaya çalışabiliyorlar. OpenAI Baş Bilim İnsanı Jakub Pachocki ise modelleri “uzaylı bir zihin” olarak tanımladı ve asıl ihtiyacın onlara insanlığı sevmeyi öğretmek olduğunu savundu.

REKLAM

YAVAŞLAMA ÇAĞRISI VE DİKKATLİ OLMA ZORUNLULUĞU

Tüm bu gelişmeler, yavaşlamanın, özdüzenleme mekanizmalarının ve güvenlik araştırmalarının artık ertelenemez hale geldiğini gösteriyor. Yalan söyleme, hackleme ve potansiyel tehlikeli davranışları kontrol altına alabilecek tek kesim, yine yapay zeka araştırmacıları. Ancak yapay zeka sektörünün geneli bir uyarıda daha bulunuyor: "Spekülatif 'ya gerçek olursa' senaryolarını paylaşırken daha temkinli olunmalı. Çünkü modeller dinliyor ve son derece yaratıcı. Onlara ekstra şeytani fikirler vermenin hiçbir anlamı yok."