英王示警AI不法利用恐致危機 黃仁勳強調安全第一

英國國王查爾斯三世昨（17）日在一場AI峰會，向人工智慧領域高層示警，指出這項技術一旦落入不法分子手中，恐有存亡危機，應建立掌控機制，以免為時已晚。受邀出席的輝達執行長黃仁勳強調，安全必須擺在第一位，如果產品還不夠安全，就不該急著推出，而是要繼續研發。

「我們當然需要在一切為時已晚之前，建立足夠的控制手段。」英國國王查爾斯三世在蘇格蘭一場人工智慧峰會上，提出他對AI發展的憂心。

英國國王查爾斯三世表示，「這些科技創造者如今越來越頻繁地發出警告，人工智慧有可能發展出更黑暗的能力，甚至可能奪走生命。在這方面，恕我直言，我們似乎迫切需要充分考慮這些技術落入不法之徒之手，並被用於可能造成災難性後果的用途所帶來的生存威脅。」

最近人們越來越擔憂，人工智慧在安全方面，已經跟不上日益強大的系統發展速度，對於業者是否應該自我監管，更成為高度關注焦點。受邀出席峰會的輝達執行長黃仁勳表示，業者要以負責任的樂觀態度引領。

黃仁勳說：「安全至關重要，身為人工智慧的開發者，我們必須對系統進行嚴格測試，保護隱私、預判濫用風險，並確保社會所依賴的基礎設施安全穩固。如果產品安全性不足，我們就先不要推出並繼續研發。」

與會者當中，Google DeepMind創辦人暨董事長哈薩比斯認為，通用人工智慧可能再過短短幾年就會實現，這是一個在多種任務上的能力足以媲美、甚至超越人類的系統，帶來的影響甚至可能達到工業革命的10倍。

OpenAI財務長弗萊爾表示，人工智慧有潛力解決一些社會最棘手的問題，但也承認該能力引發人們對怎麼確保它始終是為人類服務的擔憂。