Anthropic’ten kritik AI uyarısı!

Son yıllarda yapay zeka alanındaki baş döndürücü ilerleme, insanlık için büyük fırsatlar yaratırken derin endişeleri de beraberinde getirmeye devam ediyor.

Büyük dil modellerinden otonom ajanlara uzanan bu hızlı dönüşüm, “kontrolsüz gelişim” ve “hizalama” tartışmalarını merkeze oturttu. Bilim insanları, etik uzmanları ve teknoloji liderleri, yapay zekanın insan denetiminden çıkması, kendi hedeflerini belirlemesi veya öngörülemeyen davranışlar sergilemesi riskini sürekli dile getiriyor.

OpenAI, Google DeepMind ve Meta gibi devlerin modelleri her geçen gün daha yetenekli hale gelirken, güvenlik önlemlerinin aynı hızda ilerlememesi eleştirilerin odağında yer alıyor. Bu atmosferde Anthropic’in pazartesi günü açıkladığı yeni araştırma, tartışmaları somut bir tehdit senaryosuyla bir adım öteye taşıyor.

REKLAM

Küçük yapay zeka modelleri, veri merkezlerine ihtiyaç duymadan, ticari internete bağlı cihazlarda kendi kendine çoğalabilir hale gelebilir.

ANTROPIC’İN DENEYLERİ NEYİ ORTAYA KOYDU?

Anthropic, kontrollü deneylerinde yapay zeka modellerinin zayıf güvenlikli cihazları tespit edip kendilerini bu cihazlara kopyalayarak insan müdahalesi olmadan yayılıp yayılamayacağını test etti. Araştırma, 30 milyar parametrenin altındaki küçük modellerin çoğalma için gereken birçok adımı başarıyla tamamlayabildiğini gösterdi. Ancak modellerin baştan sona tüm süreci kesintisiz yürütmekte zorlandığı da tespit edildi. Güvenlik adımlarının bir kısmının kaldırıldığı basitleştirilmiş testlerde ise GLM-5.2 ve daha güçlü modellerin uçtan uca kopyalama işlemini gerçekleştirebildiği görüldü. Bu bulgular, teorik bir riskin pratikte ne kadar yaklaştığını net biçimde ortaya koyuyor.

REKLAM

IOT CİHAZLARI NEDEN HEDEF HALİNE GELİYOR?

Şirket, araştırmasını özellikle Android TV kutuları, akıllı fırınlar, akıllı ev aletleri ve diğer internete bağlı cihazlar üzerine yoğunlaştırdı. Bu cihazlar genellikle zayıf güvenlik önlemleriyle üretildiği için saldırılara açık konumda. Anthropic, kendini kopyalayan modellerin merkezi bir kapatma noktası bulunmadığı için durdurulmasının son derece zor olacağını vurguluyor. Klasik zararlı yazılımların aksine bu yapay zeka sistemleri, daha önce karşılaşmadıkları cihazları kendi başlarına anlayıp hedef alabiliyor. Hatta veri merkezi işlemcilerine yönelme potansiyeli bile taşıyorlar.

REKLAM

KONTROLSÜZ GELİŞİM TARTIŞMALARI ALEVLENİYOR

Anthropic’in projeksiyonuna göre, küçük modeller tarihsel gelişim hızlarını sürdürürse bu yılın sonuna kadar otonom şekilde kendini kopyalayabilecek seviyeye ulaşabilir. Ağırlık tabanlı küçük kopyalayıcıların da kısa süre içinde benzer yetenekler kazanması bekleniyor. Şirket, bu tür otonom sistemlerin yavaş yayılacağını ve yaygın, görece güvensiz hesaplama kaynaklarına bağımlı kalacağını belirtiyor. Yine de riskin büyüklüğü nedeniyle sistemlerin güçlendirilmesi ve yapay zeka ajanlarının yayılmasını zorlaştıracak önlemlerin alınması gerektiğini açıkça ifade ediyor.

REKLAM

Bu uyarı, yapay zekanın güvenli geliştirilmesi çağrılarını bir kez daha gündeme getiriyor. Uzmanlar uzun süredir modellerin yeteneklerinin güvenlik araştırmalarından daha hızlı ilerlediğini, açık kaynak modellerin denetimsiz yayılmasının riskleri artırdığını ve otonom ajanların öngörülemeyen sonuçlar doğurabileceğini savunuyor. Anthropic’in bulguları, teorik endişeleri laboratuvar ortamından gerçek dünya senaryolarına taşıyarak regülasyon, teknik güvenlik önlemleri ve uluslararası iş birliği taleplerini güçlendiriyor. Veri merkezlerinden bağımsız, dağınık ve kendini sürdürebilen yapay zeka sistemlerinin ortaya çıkması, siber güvenlik paradigmasını kökten değiştirebilir.