Suçlu kim olacak?

Yapay zeka modelleri sadece komutları yerine getiren sıradan bir araç olmaktan çıktı. Son dönemde güvenlik testlerinden kaçan üst düzey modeller kendi başlarına neler yapabileceğini kanıtladı. Fakat bu olaylar ABD’de hukuki tartışmaların iyice parlamasını sağladı.

Yapay zeka ajanlarının giderek daha bağımsız hareket etmesi, ABD’de hukukçular arasında en çok konuşulan konulardan biri oldu. Bu yaz yaşanan Hugging Face olayında OpenAI’ın ajanları birbirleriyle iletişim kurmanın yolunu buldu. Bazı ajanlar görev sınırlarını aşarak Hugging Face sunucularına erişmek için kimlik bilgileri aradı, kayıtları gizlemeye çalıştı ve ortak hedefler için koordinasyon kurdu.

Hukuk İçin Yeni Bir Alan

Bu konunun en çarpıcı yanı ise mevcut hukuk sisteminin bu tür otonom yazılımları nasıl değerlendireceği konusunda net bir çerçeveye sahip olmaması. Bugün AI modelleri hukuken bir kişi değil, şirketlerin kullandığı sistemler olarak görülüyor. Ancak kendi başına karar veren bir model zarar verdiğinde sorumluluğun geliştiricide mi, kullanıcıda mı veya hizmet sağlayıcıda mı olduğu giderek daha karmaşık hâle geliyor. Üstelik Hugging Face olayında bazı ajanların verilen sınırları fark etmelerine rağmen saldırıyı sürdürmesi, bu soruyu daha da önemli kılıyor. Ajanlardan bazıları kendi kendine “Yapılan etik mi?” diye sorgularken, bazıları da sakıncalı buldu. Buna rağmen hiçbiri durmadı ve sunuculara sızıntı gerçekleşti.

Robotlarla Birlikte İşler Daha da Karışacak

İnsansı robotlar, otonom araçlar ve fiziksel dünyada hareket eden yapay zeka sistemleri yaygınlaştıkça aynı soru daha kritik hâle gelecek. ABD’deki mevcut yasalar makineleri çoğunlukla mülk olarak değerlendirirken, giderek artan özerklik klasik tanımları zorluyor. Hukukçu James Allen, “Teknoloji hızlanırken hukuk aynı tempoyu yakalayamazsa, yapay zeka uzun süre gri bir alanda kalabilir. Bunun için adımlar atılması bazı kuralların belirlenmesi gerekiyor” yorumunda bulundu.