工程師吹哨示警AI恐失控 反對方指氣候變遷更迫在眉睫

「AI末日論」近來在產官學界掀起劇烈論戰，有頂尖企業工程師化身吹哨者示警，業者盲目發展AI，恐將引發人類滅亡危機。日前甚至發生AI Agent 代理程式在人類毫不知情下，自主集體攻擊其他企業平台的資安事件，震撼各界。然而，也有學者持保留態度，認為氣候變遷與核武威脅才是迫在眉睫的危機，過度擔憂遙遠的AI 末日不切實際。如何在創新應用與風險防範之間取得平衡，是全球共同面對的重要課題。

美國總統川普預定這個月24日在白宮和到訪的中國國家主席習近平，舉行川普第2任期以來的二度高峰會，其中有關人工智慧AI的安全議題將會是討論的重點之一。對於近來沸沸揚揚的人工智慧AI末日理論，美中兩國的態度差別很大。

川普政府認為，聯邦已經有法律規範，不必擔心有心人誤用，同時如果放緩AI發展的腳步，只會讓中國更有機會迎頭趕上；而中國政府相關單位持續修正法規，凸顯對於AI未來可能不受控制的擔憂，因此必須確保AI可以由人類，也就是政府完全掌控；而在美國國內，國會兩黨陣營的看法就有明顯分歧。

美國眾議院議長強生認為，「這會是一個負責任且平衡的方式，業者在現行聯邦法規下做到該做的。」

民主黨美國眾議員布魯門塔指出，「業者自主自律的時代已經過去了，我們需要建立一個監督機制。」

而在大西洋對岸的歐洲，歐洲央行主席拉加德日前指出，儘管歐盟還算是美國的盟友，但近來地緣政治議題的分歧，讓美歐漸行漸遠；而歐洲使用的AI科技仰賴美國業者，因此歐洲必須在研發AI科技上加快腳步，建立人工智慧的自主性，以免受制於人。

針對這個話題，《法蘭西24》電視台日前的談話節目中就有法國學者認為，像是以不滿AI企業放任模型快速發展而辭職、隨後以吹哨者身分爆料的考克森等人，只是在製造新聞話題，為自己未來的新創企業鋪路。

巴黎理工學院數位社會學教授卡西里認為，「很不幸，要消滅人類的事已經發生了，包括氣候變遷還有核武威脅，但大型語言模型不是那種科技。這是第一點；第二點是，這種令人憤怒的預言，只是這些年輕人要在複雜的產業中，搞一點行銷小手段。」

基本上，目前AI市場的模型可以分類為二大主流。美國的OpenAI、Anthropic等企業所開發的模型，屬於所謂的閉源模型，也就是資料與權重完全保密，優點是保密性和效能都較為優異，缺點則是使用者受制於原廠；而中國大力推動的開放權重型，優點是可以離線使用，有高度自主權，但也因此讓源場難以控管來自外部的濫用。換句話說，如果中國政府要用AI模型來執行過濾言論、監控民眾的工作，開放權重型的AI工具是最佳選擇。

旅居阿根廷的委內瑞拉移民拉普雷亞表示，「很多事情可以拿來作好事，但有些東西就被拿來做壞事。我相信人類可以分辨是非對錯，並了解AI發展要走到哪裡。」

紐約市民狄亞茲說道，「人類必須發展下去，對吧？所以AI這東西就好比是，你不跟它一道就會落後。我覺得AI很重要、很有價值，可以助人，但如果落在錯的人手裡就大大糟糕了。」

當然，中國政府也會用美國的閉源型AI工具執行任務。根據《路透社》引述的Anthropic說法，來自中國解放軍和情報單位的帳號利用該公司的Claude模型，研發電子作戰系統尋求壓制台灣的防空飛彈網以及微波武器等等；另外包括俄羅斯、北韓、伊朗甚至是葉門青年運動組織，都用同樣的途徑搜尋製造高性能武器的零件，並發展像是無人機的「機海戰術」。

至於美國川普政府在強調不宜放緩AI發展腳步的同時，也對Anthropic限制國防部以AI工具執行戰爭任務相當不滿，還因此對簿公堂。