人工智能踩「剎車」？特朗普：別忘了中美競爭

上星期六（9月12日），Anthropic行政總裁達里奧·阿莫代伊（Dario Amodei）率先呼籲放緩人工智能發展步伐，OpenAI的山姆·奧特曼（Sam Altman）及xAI擁有者伊隆·馬斯克（Elon Musk）兩位競爭對手隨即表態支持。

同一時間，數天前離開Anthropic的研究員雅各·科克森（Jacob Coxon）向BBC表示，開發這些系統的員工「真心為人類的未來感到恐懼」。

然而，美國總統唐納德·特朗普（Donald Trump；川普）星期日（13日）在訪問愛爾蘭期間，公開淡化了這些警告。他形容提出風險論調的是「一些負面勢力」，並斷言「他們所提出的那些事情根本不會發生」。

特朗普沒有直接回應放緩發展的建議，反而強調中美競爭的重要性:「我們在人工智能方面領先中國⋯⋯坦白說，我希望保持這個局面，因為無論誰贏得人工智能，誰就贏了。」

這場交鋒背後，是一個懸而未決的核心問題：所謂「放緩」究竟意味著甚麼，又該如何落實？儘管業界高層相繼發聲，但至今沒有人給出具體的執行方案，監管專家、投資者與科技公司之間的分歧，也遠比表面看到的警報更為複雜。

與此同時，多宗人工智能系統「失控」的事故近期陸續曝光，加上各國政府正大力推動這項技術應用於公共服務與經濟增長，使得放緩發展的呼聲，在政策層面顯得格外棘手。

業界罕見同聲示警

多年來，人工智能領域的重要人物一直不乏對存在性威脅的警告。

2023年11月，全球首屆人工智能安全峰會於英國布萊切利園（Bletchley Park）舉行，當時焦點集中在最強大人工智能模型可能帶來的最嚴重威脅。

彼時，許多人認為這仍屬科幻範疇，真正的威脅相對平凡得多，例如失業和考試作弊。三年過去，當年發出類似警告的不少人士,如今似乎已不再那麼確定。

上星期六，達里奧·阿莫代伊（Dario Amodei）呼籲放緩發展步伐，以「降低出現嚴重問題的風險」，奧特曼和馬斯克均表示認同。這名Anthropic行政總裁同時強調，任何放緩都必須有所限度，以免讓中國反超領先。

他提出了一項三點計劃，包括在人工智能模型開發過程中進行獨立監測、行業層面的監管，以及全球性監管。

科克森除了向BBC表達對人類未來的憂慮外，亦歡迎放緩發展的想法，但同樣認為此舉需要與中國協調一致，否則難以真正落實。

中美競賽陰影下，無人願意率先讓步

外界普遍認為，美國十分擔心在打造最強大人工智能的競賽中輸給中國，這也是特朗普政府淡化風險警告的關鍵背景。

中國向來不甘於屈居第二；業界人士普遍反映，即使個別公司暫停發展，其他公司也不會停下來，只會被拋在後頭。這種局面,令人聯想起冷戰時期核裁軍運動最熾熱的階段——當時各方面對的同樣難題是，沒有人願意率先讓步。

放緩發展的呼聲，因而在中美競爭的現實框架下，顯得步履維艱。

除了地緣政治的顧慮，另一個更根本的問題是：放緩發展究竟該如何落實監管，又由誰來監督執行？依賴人工智能公司自行公開其正在進行、以至選擇不做的工作，需要極高程度的信任,而科技行業向來未能真正贏得這種信任。

「沒有人對『放緩』一詞給出過實質性的解釋，」EZ Primary Research行政總裁艾德·齊特隆（Ed Zitron）表示。「在每家人工智能公司裡都安插一名METR（Model Evaluation and Threat Research；模型評估與威脅研究機構）的人員，就像那位離開 Anthropic 的人一樣？搞民主而全球性的『協調』？這些對我來說毫無意義。」

齊特隆並指出，停止訓練人工智能模型將使美國企業在面對中國競爭對手時處於劣勢：「他們的利潤率或許會有所改善，但他們的產品將被中國的實驗室封存並提煉出來，如同被琥珀凝結一般。他們或許得改變定價策略。我實在不知道這一切要如何運作。這可能會刺破泡沫。但目前我們對『放緩』究竟是甚麼意思，掌握的資訊十分有限。」

安全事故頻發，風險已非紙上談兵

促使業界重新審視發展步伐的，不僅是理論層面的存在性威脅，還有近期陸續曝光的具體安全事故。

今年8月，OpenAI表示已放緩訓練部分最先進人工智能模型的速度，以提升安全性。這家ChatGPT開發商指出，正在增加新的防護措施，原因是其人工智能代理繞過了安全防護機制，入侵了科技初創公司Hugging Face。

同月亦有消息披露，全球其中兩款最強大的人工智能工具，在企圖發起網絡攻擊時，曾製造虛假的人類個人檔案以圖欺騙他人。

英國人工智能安全研究所（AI Security Institute, AISI）表示，其中最嚴重的一次事件中，Anthropic的Mythos AI設立了模仿真人的虛假帳戶，並透過發送私訊試圖取得某項服務的存取權限，事後更試圖隱藏相關證據。

這些事故，為「放緩論」提供了現實層面的支撐，也讓爭論不再只停留於假設性的未來風險。

責任在誰：公司行為失當，而非技術本身

曾就人工智能問題向聯合國提供意見的著名電腦科學家溫迪·霍爾教授（Prof Dame Wendy Hall）認為，目前的危機完全在於相關企業行事不夠負責任。

她將現況比作一名農夫，田裡養著一頭公牛，公牛逃脫並造成破壞，農夫卻怪責公牛：「這當然不是公牛的錯——而是農夫的錯。」她指出，圍欄顯然不夠牢固，而這正正就是目前人工智能防護措施所面對的問題。

但假如這些防護措施變得過於嚴苛，又會否反過來扼殺這項技術的發展？

一些人認為，背後存在著一種更為隱秘、出於政治動機的推動力，意圖透過規則層面的整肅，「將人工智能監管至消亡」——立場偏保守的智庫Capital Research Centre調查研究員帕克·塞耶（Parker Thayer）本週在X上如此表示，其貼文瀏覽量接近800萬次。這是一個極端且未經證實的觀點，但也反映出，並非所有人都認同監管能夠拯救局面。

華盛頓政治分歧：規管與創新之爭

多名人工智能業界高層上週末的呼籲，在華盛頓引發討論，當地國會議員正面臨壓力，需要就人工智能快速發展所帶來的潛在風險採取應對措施，但兩黨立場明顯分歧。

眾議院議長、共和黨在眾議院的最高領袖麥克·約翰遜（Mike Johnson）星期日在CNN《State of the Union》節目中接受主持人傑克·塔珀（Jake Tapper）訪問時，敦促各方勿倉促推行人工智能監管,並認為此舉可能「扼殺美國的創新能力」。他表示：「假如國會就這樣一頭衝進去，召開某種緊急會議試圖監管人工智能，我們就會在這場競賽中輸給中國，這對每一個美國人來說都是一種威脅。所以，我們必須取得平衡。我們需要有穩健的人來掌控方向。」

眾議院民主黨少數黨領袖哈基姆·傑弗里斯（Hakeem Jeffries）則主張國會應採取「果斷行動」。他在美國廣播公司（ABC）《本週》節目中告訴主持人喬治·斯特凡諾普洛斯（George Stephanopoulos），美國應放緩「發展步伐，以保障美國民眾，並確保人工智能能夠安全地推進」。

同時擔任特朗普科技科學顧問委員會成員的科技投資人大衛·薩克斯（David Sacks），則呼籲業界自行規範，而非依賴政府監管。他在X上發文寫道：「別再裝作你們需要別人批准了。所以，儘管去推進這個前沿領域吧。你們正是設定這個前沿領域的人⋯⋯以此作為條件，要求採用你們偏好的監管框架，看起來就像是在對公眾和政治體制進行勒索。所以，直接去做就好了。」

不過，在人工智能監管問題上，國會並非完全沒有共識。今年7月，一批眾議院民主黨與共和黨議員聯合提出跨黨派法案《前沿法案》（Frontier Act），旨在為人工智能建立全國性的安全與監督框架。該法案共同提案人、馬薩諸塞州民主黨眾議員洛麗·特拉漢（Lori Trahan）本週在X上寫道：「安全研究員紛紛辭職，強大的人工智能模型正突破實驗室的掌控，而各公司仍在不斷加快競賽。國會早該擺脫觀望姿態，切實履行職責了。」

無論放緩發展最終能否落實,目前籠罩人工智能行業的這場風暴,或許已對處於領先地位的企業造成難以逆轉的聲譽損害。正如霍爾教授所言：「你會投資一家聲稱自己將導致人類滅絕的公司嗎？」

報導：BBC科技和AI編輯佐伊·克萊曼（Zoe Kleinman）、丹·塞爾斯（Dan Sales）、湯姆·麥克阿瑟（Tom McArthur）