Yeni bir salgına yol açabilir

Tencent’in baş yapay zeka araştırmacısı Vinces Yao’nun açıklamaları bilim dünyasındaki heyecana gölge düşürdü. Yao, AI teknolojisinin insanlığa büyük yararlar sağlarken tehlikeli sonuçlar da doğurabileceğini düşünüyor.

South China Morning Post’a Vinces Yao, Hong Kong’daki bir sempozyumda biyolojinin AI modelleri için yeni sınır olduğunu anlattı. Bir dönem OpenAI’da çalışan Yao, ilaç geliştirme çalışmalarının hızlanabileceğini lakin aynı gücün biyolojik silah üretimini kolaylaştırabileceğini söyledi. Tecrübeli araştırmacı, “Modellerin biyolojik becerileri de yakında zarar verebilecek düzeye ulaşacak” diyerek yapay zeka güvenliği konusunda tüm şirketleri uyardı.

Otonom Laboratuvarlar İçin Düğmeye Basıldı

Tencent ise her şeye rağmen araştırma alanındaki yatırımlarını büyütüyor. Şirket karmaşık deneyleri baştan sona gerçekleştirebilecek otonom laboratuvarlar kurmayı hedefliyor. Ancak bu çalışmalar ilerlerken güvenlik önlemlerini de göz ardı etmiyor. Nitekim yeni Hy4 modelinin saldırı amaçlı siber becerileri eğitim sırasında sınırlandırılırken savunma işlevleri korundu. Modelin biyolojik yeteneklerinin ise şimdilik yüksek risk seviyesinden uzak olduğu belirtiliyor. Yao’ya göre asıl zorluk, teknik sorunları çözmekten çok toplumsal ve kurumsal hazırlığı sağlamak olacak.

Açık Kaynak Modeller İkilemde Bırakıyor

Bir başka önemli konu da açık kaynak yapay zeka sistemleri. Yao’ya göre açık kaynak modeller kötü niyetli kişilere fırsat verebilir, fakat savunma ekiplerine de önemli araçlar kazandırabilir. Bu nedenle yalnızca kapalı teknolojilere yönelmek yeterli olmayabilir. Diğer yandan Tencent de Hy4’ün güvenlik testlerinde neler yaptığını tüm bulgularıyla yakında paylaşacağını açıkladı.