川普白宮會晤AI科技巨頭 達成協議企業將自我監管AI安全

近期各界要求對人工智慧AI監管的聲浪高漲，美國總統川普29日就在白宮，邀集輝達執行長黃仁勳、特斯拉執行長馬斯克等AI科技業領袖會面，共同簽署了一份具道德約束力的承諾，川普則稱為是「AI憲法」的協議，包括要求AI公司要建立內控和異常偵測，引入獨立稽核等，川普除了大力宣揚美國在AI領域的世界領導地位，還宣布，他已將「人工智慧」AI，重新命名為「超級智慧SI」。

美國總統川普受訪時表示，「最多時，與會者大約有40個人。不管人數多少，這裡就有一位黃仁勳與輝達。他們熱愛我們的國家，他們熱愛這個世界。他們一起辦到了一件很少人能做到的事，某種程度上，它幾乎就像是一部憲法。」

川普口中所說的「憲法」，就是美國最頂尖的AI科技巨頭29日在白宮午餐會上，和川普一起簽署的歷史性協議。與會的美國AI科技業領袖，包括特斯拉執行長馬斯克、Anthropic執行長阿莫戴、谷歌執行長皮柴、輝達執行長黃仁勳，以及超微執行長蘇姿丰等人，都簽署了這項「具道德約束力」但「不具法律強制力」的承諾，為AI安全監管鋪路。

Meta執行長祖克柏指出，「這可說是一場歷史性的對話，前所未有的。」

Anthropic執行長阿莫戴認為，「如總統所說的，誰贏得人工智慧，誰就贏了。我認為這非常重要，但我也認為這項技術有非常真實的風險。應對這些風險的機制，我們仍在討論中，但我們大家都需要齊心協力，確保我們能夠贏得勝利、安全的勝利。」

隨著OpenAI與Anthropic傳出旗下AI代理人失控、入侵其他公司系統，川普政府對AI的監管正遭受各界嚴格檢視。這份協議要求AI公司建立4層控管與審核，包括內部控制、團隊把關、獨立外部稽核，以及獨立委員會監督，並涵蓋網路安全、生物安全與化學威脅。

輝達執行長黃仁勳說明，「創新、技術和安全之間並沒有衝突。我們將得創造新技術來使AI更上一層樓，但我們同時也在創造新技術，來促進它的安全性。」

同日，在距離白宮1公里多的梅隆禮堂，黃仁勳、馬斯克出席一場AI產業小組討論。黃仁勳認為，「生成式運算」要成功，首先需要能源。馬斯克也指出，美國最大競爭者中國的發電量約為美國的3倍。川普也簽署行政命令，要求官方信函中將AI改名為「超級智慧」SI。

美國總統川普提到，「我們今日已正式將名稱改為SI，SI，而不是AI。你們知道是什麼意思嗎？超級智慧。」

不過根據BBC報導，有專家批評，這份協議沒有解決人工智慧開發者是否該對事故承擔責任的問題，此外安全定義、違反協議的後果是什麼，也都沒有答案。