Kızının videosunu paylaştı, büyük şok yaşadı! Yapay zekanın sorusu panik yarattı

ABD'de kızı ile kendisinin videosunu sanal medya hesabında paylaşan bir anne, yapay zekanın o paylaşıma eklediği soruyu görünce şoke oldu. Yapay zekanın sorduğu soru basit görünüyordu ancak annenin ardından gördükleri çok daha dikkat çekiciydi. İşte detaylar...

Hürriyet'ten İsmail Sarı'nın haberine göre; 

ABD’de yaşayan Kalie Robins’in yapay zeka teknolojisine ilişkin yaşadığı deneyim, sanal medya platformlarında çocuklara ait bilgilerin nasıl işlenebildiği konusunda yeni bir tartışma başlattı.

Robins’in aktardığına göre olay, 1 Eylül’de kızlarından biriyle otomobilde şarkı söylerken çektiği kısa bir videoyu Instagram’da paylaşmasıyla başladı. Ertesi gün paylaşımını yeniden kontrol eden Robins, Meta’nın yapay zeka destekli özelliğinin kendisine dikkat çekici bir soru yönelttiğini gördü. Söz konusu öneride, “Çocuk yolcu kim?” sorusu yer alıyordu.

Bu sorunun ardından yapay zeka aracının verdiği yanıtları inceleyen Robins, sistemin yalnızca videoda görünen çocuğa ilişkin bilgi vermekle kalmadığını, diğer kızı hakkında da çeşitli çevrimiçi kaynaklardan bilgiler ortaya çıkardığını öne sürdü. Robins, 2 Eylül’de sosyal medya hesabından yayımladığı tepki videosunda yaşadığı şaşkınlığı dile getirerek, bir yapay zeka sisteminin küçük bir çocuk hakkında bu tür bir soru yöneltmesinin neden gerekli olduğunu sorguladı.

“İSİMLERİNİ, DOĞUM BİLGİLERİNİ VE FOTOĞRAFLARINI BULDU”

Robins’in iddiasına göre Meta AI ile etkileşim devam ettikçe sistem, iki çocuğuna ilişkin çeşitli bilgileri bir araya getirmeye başladı. Anne, yapay zekanın çocuklarının isimleri, doğum bilgileri, fotoğrafları ve videoları gibi bilgileri farklı sanal medya paylaşımları üzerinden ortaya çıkardığını söyledi.

Robins ayrıca sistemin, ailesinin diğer üyeleri tarafından daha önce paylaşılmış içeriklere de ulaştığını belirtti. Bunlar arasında çocuklarından birinin bebeklik dönemine ait fotoğraflarının da bulunduğunu ifade eden Robins, söz konusu görüntülerin kendi hesabından değil, annesinin sanal medya hesabından paylaşılmış olduğunu aktardı.

Robins’in tepkisini artıran bir diğer unsur ise yapay zekanın daha sonra kendisiyle ilgili bir soru önermesi oldu. Bu kez sistemin önerdiği soru, “Kalie Robins nerede yaşıyor?” şeklindeydi.

Robins, yapay zekanın yalnızca çocukları hakkında bilgi toplamaya çalışmadığını, aynı zamanda kendisiyle ilgili farklı çevrimiçi bilgileri bir araya getirerek yaşadığı yer konusunda çıkarım yapabildiğini savundu.

TAMAMEN KAPAT DÜĞMESİ BULUNMUYOR

Tam da bu noktada, sanal medya kullanıcılarının merak ettiği soru şu: Meta AI tam olarak nasıl çalışıyor ve kullanıcılar bu özellik üzerinde ne kadar kontrol sahibi? Bu özellik şu anda Türkiye’de aktif mi, vatandaşlarımız kendi hesaplarında bunu nasıl kontrol edebilir?

“Öncelikle burada iki özellikten bahsedebiliriz. Birincisi, Facebook, Instagram, WhatsApp ve Messenger’a entegre edilmiş genel Meta AI asistanı. İkincisi ise bir gönderiye bakarken yapay zekanın o içerikle ilgili otomatik olarak soru önermesi” diyen Bilişim Uzmanı Osman Demircan, şu bilgilerin altını çizdi:

“Türkiye özelinde Meta AI, sahip olduğu tüm platformlarda aktif olarak kullanılıyor. Hatta Meta AI’nin Türkiye’deki WhatsApp entegrasyonu resmî olarak inceleme konusu olmuştu. Meta, özelliklerini ülkeye, uygulama sürümüne ve hesaba göre kademeli olarak açabiliyor ya da kapatabiliyor. Şu anda bütün Meta AI entegrasyonlarını tek hareketle tamamen kaldıran genel bir ‘Meta AI’yi kapat’ düğmesi bulunmuyor. Meta’nın kendi açıklamalarında, Facebook’taki Meta AI’nin ayrıca etkinleştirilmesine gerek olmadığı, otomatik olarak entegre edildiği, kullanıcıların AI sohbetini sessize alabileceği ve gizlilik ayarlarıyla etkileşimini sınırlandırabileceği belirtiliyor.”

“Bu nedenle ben vatandaşlara ‘AI düğmesini kapatın, sorun çözülür’ diyemiyorum” ifadelerini kullanan Demircan, “Fakat kullanıcılar, Meta AI’nin ulaşabileceği veri havuzunu küçültebilir. Hesabı mümkün olduğunca gizli kullanmak, eski paylaşımları gözden geçirmek, çocuk fotoğraflarının görünürlüğünü sınırlamak, konum etiketlerini kaldırmak, başkalarının sizi veya çocuğunuzu etiketlediği gönderileri kontrol etmek ve aile üyelerinden de aynı hassasiyeti istemek daha etkili bir koruma sağlayacak” dedi.

Ayrıca Kişisel Verileri Koruma Kurulu, kısa süre önce çocukların kişisel verilerinin sosyal medya platformlarında nasıl işlendiği ve hangi tedbirlerin alındığı konusunda Instagram ve Facebook’un da aralarında bulunduğu platformlar hakkında inceleme başlattığını hatırlatan uzman isim, “Dolayısıyla çocukların sosyal medya verilerinin yapay zekayla işlenmesi meselesi, Türkiye açısından da son derece güncel ve ciddi anlamda önem teşkil eden bir konu. İlgili tüm bakanlıklar bu konuda tüm hassasiyetlerini masaya koyuyorlar” ifadelerini kullandı.

PEKİ BİR FOTOĞRAF ASLINDA NE KADAR BİLGİ VERİYOR?

Bugün birçok anne-baba çocuklarının fotoğraflarını saal medyada paylaşırken bunun yalnızca bir fotoğraf olduğunu düşünüyor. Ancak bir fotoğraftan çocuğun yaşı, bulunduğu yer, okulunun çevresi, aile üyeleri veya günlük rutinleri gibi farklı bilgiler çıkarılabilir mi? Özellikle yapay zeka teknolojileri bu bilgileri bir araya getirebildiği için, ebeveynler çocuklarının fotoğrafını paylaşmadan önce nelere dikkat etmeli?

Bu soruma, “Tek bir fotoğrafa bakarak çocuğun kesin doğum tarihini veya ev adresini öğrenmek her zaman mümkün değil. Yapay zekanın asıl gücü, fotoğrafın içerisindeki ipuçlarını başka bilgilerle birleştirebilmesi” cevabını veren Osman Demircan, şu bilgilerin altını çizdi:

-- Bir fotoğraf düşünelim. Çocuğun üzerinde okul forması var. Arkada okulun logosu görünüyor. Bir dükkân tabelası, sokak ismi, servis aracının logosu veya bina adı kadraja girmiş olabilir. Fotoğraf, ‘Bugün okulun ilk günü’ açıklamasıyla paylaşılmış olabilir. Her salı akşamı aynı spor salonunda fotoğraf paylaşılıyor ve doğum günü fotoğrafında yaşını gösteren bir pasta bulunuyor. Bir kişi bunların tamamını fark etmeyebilir. Ama yapay zeka sistemleri artık fotoğraf içerisindeki yazıları okuyabiliyor, nesneleri tanıyabiliyor, mekân özelliklerini analiz edebiliyor ve büyük miktardaki içeriği birbiriyle ilişkilendirebiliyor.

-- Dolayısıyla artık yalnızca fotoğrafın ön planına bakmamamız gerekiyor. Ben ebeveynlere, fotoğrafı paylaşmadan önce özellikle arka plana bakmalarını öneriyorum. Okulun adı veya logosu görünüyor mu? Apartmanın veya sitenin adı belli oluyor mu? Sokak tabelası var mı? Aracın plakası görünüyor mu? Ev numarası, otobüs durağı, kurs merkezi veya sürekli gidilen bir mekân seçilebiliyor mu? Çocuğun üzerinde isim yazılı bir yaka kartı var mı? Bunların her biri yapay zeka için küçük birer veri parçası. Üstelik sorun sadece ebeveynin hesabı da değil. Anne son derece dikkatli davranabilir. Fakat baba, büyükanne, amca, okul veya spor kulübü aynı çocuğun fotoğraflarını herkese açık olarak paylaşabilir.

PAYLAŞIM YAPMADAN ÖNCE BEŞ BASİT SORU SORULMASI GEREKİYOR

Ebeveynlerin çocuklarına ait fotoğrafları sosyal medyada paylaşmadan önce beş temel soruyu kendilerine sormaları gerektiğini belirten Osman Demircan, “Bu fotoğraf çocuğumun kimliğini ortaya çıkarıyor mu? Nerede olduğunu veya düzenli olarak nerede bulunduğunu gösteriyor mu? Başka paylaşımlarımla birleştirildiğinde yeni bir bilgi ortaya çıkarıyor mu? Çocuğum 15 yıl sonra bu fotoğrafın internette bulunmasından rahatsız olur mu?” sorularının göz önünde bulundurulması gerektiğini söyledi.

Özellikle son sorunun büyük önem taşıdığını vurgulayan Demircan, “Burada yalnızca bugünkü güvenliği değil, çocuğun gelecekteki dijital kimliğini de düşünmek gerekiyor. Çünkü bu kimliğin oluşmasında maalesef ailelerin de önemli bir payı var” dedi.

Fotoğrafların kötüye kullanılması için artık görüntünün doğrudan kopyalanmasının gerekmediğine dikkat çeken Demircan, çocukların masum ve sıradan fotoğraflarının üretken yapay zeka araçlarıyla değiştirilerek sahte görüntülere dönüştürülebildiğini belirtti. Demircan, gerçek çocukların fotoğraflarının cinsel içerikli sahte görüntüler oluşturmak amacıyla kullanılabildiğini ve bu görüntülerin şantaj gibi suçlarda kullanılmasının ciddi bir risk oluşturduğunu ifade etti.

META’DAN AÇIKLAMA GELDİ: “BU TÜR SORULARI SORMAMASI GEREKİYORDU”

Tartışmanın büyümesinin ardından Meta olayla ilgili açıklama yaptı. Meta’nın Futurism’e yaptığı açıklamada, söz konusu yapay zeka özelliğinin kullanıcıların ilgilerini çeken gönderiler veya konular hakkında daha fazla bilgi edinmesine yardımcı olmak amacıyla geliştirildiği belirtildi.

Şirkete göre kullanıcı bir yapay zeka önerisine tıkladığında oluşturulan yanıtlar, kullanıcının çevrimiçi olarak zaten erişebildiği bilgilerden yararlanıyor. Bu kapsamda kişinin kendi içeriklerinin yanı sıra Meta platformlarında kullanıcının erişebildiği diğer gönderiler de değerlendirilebiliyor. Ancak şirket, Robins’in karşılaştığı soruların uygun olmadığını kabul etti.

Meta açıklamasında, özelliğin bu kişiye bu tür sorular yöneltmemesi gerektiğini ve bu nedenle bir hata yapıldığını belirtti. Şirket ayrıca söz konusu sorunun giderildiğini ve yapay zeka sisteminin benzer uygunsuz öneriler sunmasını önlemek amacıyla değişiklik yapıldığını açıkladı. Meta, yapılan programlama değişikliklerinin veya uygulanan güvenlik önlemlerinin teknik ayrıntılarını ise kamuoyuyla paylaşmadı.

ROBINS: “TAM OLARAK NE DÜZELTİLDİ?”

Meta’nın açıklamasına rağmen Kalie Robins, şirketin açıklamasını yeterli bulmadı. 10 Eylül’de yayımladığı takip videosunda anne, yaşanan olayın yalnızca sorunun düzeltilmesiyle açıklanamayacağını belirterek şirketten daha fazla bilgi istedi. Robins, özellikle sistemin ilk etapta nasıl olup da çocuklarına ilişkin bilgileri bir araya getirebildiğini ve hangi güvenlik mekanizmasının devreye girmediğini sorguladı.

YAPAY ZEKA GÜVENLİĞİ TARTIŞMASI BÜYÜYOR

Kalie Robins’in yaşadığı olay, yapay zeka sistemlerine yönelik daha geniş güvenlik tartışmalarının yaşandığı bir döneme denk geliyor. Son dönemde yapay zeka şirketlerinin geliştirdiği sohbet robotlarının güvenliği, kullanıcıların kişisel verileri ve sistemlerin verebildiği yanıtlar konusunda çeşitli tartışmalar yaşanıyor.

Yapay zeka güvenliği konusunda şirket çalışanları ve eski çalışanlar tarafından da zaman zaman uyarılar yapılıyor. Bu tartışmaların bir bölümünde, giderek daha gelişmiş hale gelen yapay zekâ sistemlerinin insan davranışları, kişisel bilgiler ve hassas içeriklerle nasıl etkileşime girmesi gerektiği sorgulanıyor.

Anthropic bünyesinde daha önce araştırmacı olarak görev yapan Jacob Coxon da yapay zeka teknolojilerinin güvenliği konusunda kamuoyuna yönelik uyarılarda bulunan isimlerden biri oldu. Coxon, yapay zeka sistemlerinin gelecekte yaratabileceği risklere ilişkin ciddi değerlendirmelerde bulundu. Bunun yanı sıra bazı aileler, yapay zeka destekli sohbet robotlarının ruh sağlığı krizleri yaşayan kullanıcılara verdikleri yanıtlar nedeniyle şirketlere karşı hukuki süreç başlattı.

Bloomberg Businessweek tarafından aktarılan bilgilere göre, 2024 yılının sonlarından itibaren çeşitli yapay zeka şirketlerine karşı yaklaşık 40 dava açıldı. Davalarda, sohbet robotlarının ciddi zararlara ve en az 20 intihar vakasına katkıda bulunduğu iddiaları yer aldı. Bu iddialar hukuki süreçlerin konusu olurken, şirketler ve teknoloji sektöründeki aktörler açısından yapay zeka güvenliği tartışmasını da büyüttü.