Şüpheler büyüyor

Instinct kullanıcıları izinsiz erişim, uydurulan kişisel bilgiler ve başka sorunlarla karşılaştı. Meta’nın yapay zeka asistanı Muse’ta ise önemli bir güvenlik açığı bulundu.

Kişisel yapay zeka ajanlarıyla ilgili şikayetler artmaya başladı. Bunun son örneğini Veris AI CEO’su Mehdi Jamei yaşadı. Jamei yapay zeka asistanı Instinct’ten Luma’da katılacağına dair onay verdiği iki etkinliği iptal etmesini istedi. Asistan da bağlı Gmail hesabındaki tek kullanımlık giriş kodunu izinsiz okuyup işlemi tamamladı. Jamei yaptığı açıklamada, “İptal etti fakat bunu benim söylemediğim biçimde gerçekleştirdi. Biraz ürkütücü” dedi.

Halüsinasyon ve Erişim Soruları

Farklı Instinct kullanıcıları da ilginç sorunlarla karşılaşmış hâlde. Merge yöneticisi Pritak Patel, Instinct’e metin içeren bir web bağlantısı gönderdi. Ajan ise bağlantıda olmayan bir fotoğraftan söz etti, ardından Patel’e ait olmayan kişisel bilgiler içeren mali bir belge tarif etti. Instinct kurucusu Noah Shinn, olayın veri sızıntısı değil bir halüsinasyon olduğunu söyledi. Shinn, yapay zeka asistanına yanıt vermeden veya işlem yapmadan önce halüsinasyonları tespit etmeye yönelik yeni bir sistem eklediklerini belirtti.

Muse’da Açık Tespit Edildi

Tabii ki Meta’nın Muse ajanı da gündemdeki diğer bir asistan oldu. DoubleYou.io CEO’su Patrick Wardle, Mac’te dikte edilen komutların yönlendirilebilmesini sağlayan bir açık bulduğunu açıkladı. Wardle’a göre bu açık, Muse’a verilen komutların değiştirilmesine ve ajanı kontrol eden anahtarın ele geçirilmesine yol açabilirdi. Meta’dan David Singleton, hatanın düzeltildiğini ve şimdiye kadar açığın kullanıldığına dair herhangi bir kanıt bulamadıklarını bildirdi.