OpenAI güvenlik endişeleri nedeniyle ertelediği yeni yapay zeka asistanını tanıttı

San Francisco'daki yıllık geliştirici gününde konuşan Altman, asistanı aklınıza gelebilecek her şeyi gerçekten halledebilen, son derece yetenekli, her zaman açık ajanlar olarak nitelendirdi.

Yapay zeka ajanlarının dahili testleri beklenmedik ve zaman zaman zararlı eylemler ortaya çıkardı.

Şirket bu nedenle yoğun bir incelemeyle karşı karşıyayken, OpenAI Başkanı Greg Brockman ve diğer teknoloji liderleri ABD Başkanı Donald Trump ile bir toplantı düzenledi.

Dots, yoğun yaşamları olan insanlar için dijital asistan olarak işlev görmesi amaçlanan, parlak renkli sevimli çizgi filmler olarak pazarlandı.

Etkinlikte, insanların asistanlarının animasyonlu versiyonlarıyla konuştuğu, onlara isim verdiği ve ardından web sitesi kurmak veya çocukları için okul sonrası etkinlikler ayarlamak gibi çeşitli görevler verdiği bir video gösterildi.

Kendi asistanından bahsederken Altman, araç için yıllardır yaygın olarak kullanılan ajan ifadesini kullanmaktan kaçındı. Kısmen otonom çalışmaya programlanan yapay zeka sohbet robotları, temel olarak yapay zeka ajanları olarak biliniyor. Altman, asistanlara sadece bir sorumluluk verildiğini ve ardından çalışmaya başlayıp işi sürdürdüğünü ifade etti.

ABD Başkanı Donald Trump teknoloji liderleriyle buluştu

OpenAI'ın etkinliği, ABD Başkanı Donald Trump'ın teknoloji liderleri ve Temsilciler Meclisi Başkanı Mike Johnson ile Beyaz Saray'da düzenlediği öğle yemeğiyle aynı zamanda gerçekleşti.

Trump, yapay zeka şirketlerinin kendi kendilerini denetlemeleri gerektiği yönündeki inancını tekrarladı. Sektörü denetlemek için 10 kişilik bir komite oluşturulmasını görüştüklerini söyleyen ABD Başkanı Donald Trump, muazzam bir öz denetim mekanizması kurulacağını belirtti.

Güvenlik endişeleri yapay zeka modelini geciktirdi

Yapay zeka firmalarının modellerindeki ihlal vakaları giderek daha fazla ortaya çıkarken, bazı araştırmacılar ve şirket yöneticileri yapay zeka gelişiminin yavaşlatılması çağrısında bulundu.

Gazetecilerin sorularını yanıtlayan Altman, merkezci bir yol izlenmesi gerektiğini dile getirdi. Altman, sektörün daha mantıklı ve pragmatik bir duruş sergilemesini umduğunu sözlerine ekledi ancak belirli şirket veya lider isimleri vermekten kaçındı.

OpenAI, etkinlikten bir gün önce, dahili testler sırasında ortaya çıkan bazı güvenlik sorunları nedeniyle en son modelinin lansmanını ertelediğini duyurmuştu.

Şirket temmuz ayından bu yana yapay zeka ajanlarının uygunsuz davranışlarıyla ilgili bir dizi sorunla uğraşıyor.

Yapay zeka platformu Hugging Face'e istenmeden sızılması, ChatGPT kullanıcı sohbetlerinden alınan görüntülerin üçüncü taraf web sitelerinde yayınlanması ve Avustralya hükümetine ait halka açık olmayan bilgilere erişilmesi gibi olaylar yaşandı.

OpenAI ve rakip yapay zeka firması Anthropic, daha önce siber güvenlik veya bilgisayar korsanlığı endişeleriyle ilgili olası riskler nedeniyle bazı yapay zeka modellerinin halka açık sürümünü ertelemişti.

Bir yapay zeka sisteminde meşru bir kontrol kaybı olasılığını gündeme getiren Altman, gücün az sayıda şirkette, kişide veya ülkede toplanmasının tehlikelerine işaret etti.

Yapay zeka şirketleri borsaya açılmaya hazırlanıyor

Hem OpenAI hem de Anthropic'in önümüzdeki aylarda borsada işlem görmesi bekleniyor. Anthropic'in bu yıl içinde, OpenAI'ın ise 2027'de halka arz edilmesi planlanıyor.

Şirketinin hisselerini halka açık piyasalarda satmaya istekli olduğunu vurgulayan Altman, OpenAI'ın halka açılmak için çok uzun süre beklemesinin dünya için kötü olacağını savundu.

Her iki şirket de son zamanlarda yapay zekanın kamu altyapısı veya kamu güvenliği için büyük ölçekli gerçek bir risk oluşturduğuna inandıklarını açıkça ifade ediyor.

Geçen hafta Birleşmiş Milletler'de konuşan Altman; bir yapay zeka aracının yeteneklerini ölçmek, riskleri değerlendirmek ve bu tür araçlar üzerinde insan gözetiminin derecesini belirlemek için ulusal ve uluslararası standartlar belirlenmesi çağrısında bulundu.

Anthropic Üst Yöneticisi Dario Amodei de Birleşmiş Milletler'e yaptığı açıklamada, yapay zekanın hızlanan gelişiminin düzgün bir şekilde yönetilmemesi ve denetlenmemesi halinde, teknolojinin gelecekteki sürümlerinin bir bütün olarak insanlık için risk oluşturabileceğini söyledi.