Anthropic iki ay sonra fark etti

Anthropic kısa süre önce tanıttığı yeni modelleriyle isminden bahsettirirken, bu sefer ilginç bir olayla gündeme geldi. Haiku 4.5’in yaptığı bir hata güvenlik önlemlerinin sorgulanmasına, yetkililerin de tepkisine neden oldu.

Claude Haiku 4.5, 18 Temmuz’da Philadelphia polisinin çözülemeyen cinayetlere ilişkin ihbar aldığı PhillyUnsolvedMurders.com sitesine yanlış bilgi gönderdi. Yapay zeka rastgele internet sayfalarında işlem yaptığı bir test sırasında siteye girmişti. Cinayetle ilgili bilgi sahibi olduğunu ileri süren bir mesaj hazırladı. Ancak gönderi gereksiz posta olarak işaretlendiği için polislerin önüne hiç düşmedi.

Anthropic’in Bir Süre Haberi Olmadı

Olayın diğer bir ilginç yanı da şirketin bundan uzun süre habersiz kalması. Anthropic hatayı 28 Eylül’de fark etti, fakat Philadelphia polisine 7 Ekim’de haber verdi. Yetkililer ertesi gün şirket temsilcileriyle görüştü. Emniyet Müdürlüğü, “İki aylık gecikme kabul edilemez” diyerek tepki gösterdi. Polisler asılsız bilginin soruşturmaya girmediğini ve herhangi bir veri sızıntısı yaşanmadığını da vurguladı.

Yeni Güvenlik Önlemleri Alıyor

Peki Anthropic bundan sonra ne yapacak? Şirket olaya yol açan testi durdurduğunu ve yeni güvenlik kontrolleri geliştirdiğini duyurdu. Ayrıca kendi testlerinde gerçek internet sitelerine erişimi şimdilik kapatacak. Benzer sorunlar diğer şirketleri de ilgilendiriyor. OpenAI’ın bir modeli de Hugging Face’in sunucularına sızmıştı.