Anthropic'in yapay zeka modeli sahte cinayet ihbarında bulundu

The Wall Street Journal'ın haberine göre Philadelphia polisi, Anthropic'in yapay zeka modellerinden birinin "PhillyUnsolvedMurders.com" sitesi üzerinden yanlış bir cinayet ihbarında bulunduğunu açıkladı.

Buna göre Anthropic, sahte ihbarın son zamanlarda modelin yürüttüğü izinsiz eylemlerden biri olduğunu belirtti.

Bu tür vakalar hakkında Beyaz Saray'ı bilgilendirdiği bilgisini paylaşan şirket, konuyla ilişkili her kuruma bildirimde bulunduklarını, ayrıca ortaya çıktıkça yapay zekanın istenmeyen davranışlarına ilişkin yeni örnekleri de rapor etmeyi planladıklarını kaydetti.

Şirket, bu asılsız cinayet ihbarının modelin çözülmemiş bir cinayet vakasına atıfta bulunan bir sayfada polis teşkilatı tarafından yönetilen ihbar formuyla karşılaşmasıyla ortaya çıktığını, asla oturum açmaması, hesap oluşturmaması, kişisel veri girmemesi yönünde talimat verilmesine rağmen modelin bu talimatlara uymadığını aktardı.

Polis teşkilatı ise yanlış bildirim olayının temmuzda meydana geldiğini ancak Anthropic'in bunu eylüle kadar fark etmediğine değinerek, olayın meydana gelmesiyle tespit edilip polise bildirilmesi arasında geçen iki aylık gecikmenin "kabul edilemez" olduğunu kaydetti.

Anthropic'in modelinin bu olay esnasında rastgele seçilen web siteleriyle etkileşim içeren bir test gerçekleştirdiğini belirten polis, teknoloji şirketlerinin sistemlerinin yanlış bilgi göndermesini önlemek için uygun önlemleri alması gerektiğini vurguladı.

Polis, Anthropic'in olayı fark ettikten 9 gün sonra 7 Ekim'de Philadelphia polisine bildirimde bulunduğunu aktarırken, şirket temsilcilerinin ertesi gün emniyet müdürlüğü yetkilileriyle bir araya geldiğini belirtti.