Google軍事人工智能合約引發辭職潮

• • Author, 克里斯托弗·賈爾斯（Christopher Giles）
  • Role, BBC之眼調查組（BBC Eye Investigations）

• Published 7 分鐘前

• 閱讀時間: 4 分鐘

谷歌（Google）將其人工智能（artificial intelligence, AI；人工智慧）技術部署於軍事用途後，正面臨部分員工的反彈。

BBC採訪了多名科技從業人員，他們或是最近已從Google旗下人工智能公司Google DeepMind辭職，或正準備離職，原因是對這家科技企業的軍事合約感到憂慮。

常駐倫敦的研究工程師索菲亞·利古里（Sofia Liguori）是其中之一。她於本週從Google DeepMind辭職，並獨家向BBC談及她的憂慮，儘管她的合約限制她這樣做。

利古里以個人身分發言：「意識到我的公司愈來愈積極推動在軍事行動中使用人工智能系統，令我對在Google工作感到羞愧。」

Google一名發言人回應BBC時表示：「我們與全球各地的公共部門機構合作，並遵循一致的程序審查及簽訂這些合約，包括遵守我們的可接受使用政策和人工智能原則。」

「我們亦設有專門渠道，讓員工能安全地提出任何憂慮，涵蓋商業操守以至不當行為等問題，而我們亦制訂了嚴格的工作場所政策，以防止任何形式的報復行為。」

但人工智能技術正迅速演進，批評者質疑，在未經更多測試、缺乏更強保障措施及人類監督的情況下，其可靠性是否足以應用於戰爭。

在公司工作三年後，利古里表示，她因Google日益加深與美國和以色列軍方的合作而決定辭職。「我不同意這個方向，而這亦令我失去對公司能夠忠於其所宣稱道德價值的信心。」她說。

根據Google的《人工智能原則》，這些價值包括在實施人工智能時納入「人類監督」，並使技術符合「國際法和人權」。但BBC採訪的現任及前員工，以及相關專家表示，他們憂慮關鍵時刻的人類監督程度是否足夠。

這些科技從業人員表示，他們尤其擔心今年簽署的人工智能軍事協議，因為這些協議大幅擴大了五角大樓（The Pentagon）可使用相關技術的範圍。

人工智能研究員安德烈亞斯·基爾施（Andreas Kirsch）本月稍早亦因相關憂慮從Google DeepMind辭職。

基爾施向BBC表示，他認為「Google的治理和監督機制不足，或缺乏足夠意義，無法在軍事及機密環境中安全且負責任地部署人工智能」，也不足以「在未來安全地開發人工超級智能」。

他補充說：「Google似乎無權控制或否決五角大樓如何使用其人工智能，而且似乎也無法充分掌握其部署方式。」

過去數年，美國軍方已部署多項由人工智能驅動的技術，以提升其作戰能力。

其中最著名的例子是Maven 智能系統（Maven Smart System），這是五角大樓用於整理情報和數據的主要軟件平台。

該系統由美國國防公司帕蘭提爾（Palantir）開發，利用人工智能協助人員選擇及識別打擊目標。帕蘭提爾已將多家領先人工智能公司的技術整合至Maven系統，而這使部分流程得以大幅加快。

曾任Project Maven主管的退役中將傑克·沙納漢（Lt Gen (Ret) Jack Shanahan）表示，現時的「理念」似乎是：「盡可能快地部署（人工智能技術），並盡可能廣泛地使用，即使可能因此犧牲測試與評估所需的嚴謹性和紀律。」

然而，五角大樓一直堅稱採用人工智能技術對贏得戰爭至關重要。美國國防部副部長埃米爾·邁克爾（Emil Michael）今年稍早在一份聲明中表示：「速度決定了人工智能時代的勝利。」

Google與五角大樓於今年稍早簽署的合約，允許其人工智能技術用於機密軍事項目。協議指出，Google的人工智能模型可用於「任何合法的政府用途」，而且「在沒有適當人類監督和控制的情況下，不應用於國內大規模監控或自主武器（包括目標選擇）」。

OpenAI、亞馬遜（Amazon）、微軟（Microsoft）、SpaceX、甲骨文（Oracle）、輝達（Nvidia；英偉達）以及初創公司 Reflection 亦簽署了類似協議，允許人工智能技術部署於運輸、規劃和戰場行動等各種軍事場景。

隨着技術迅速發展，人們對人工智能用於戰場的憂慮亦日益增加。

曾任OpenAI地緣政治團隊主管的莎拉·肖克（Sarah Shoker）表示：「人工智能運作速度遠快於人類，因此會壓縮操作員作出決策的時間，而在高壓環境下這尤其危險。」

「當有數百個目標由人工智能選出，而可供決策的時間又很短時，人類操作員幾乎不可能真正審查人工智能輸出結果中是否存在錯誤。」

Google員工向BBC表示，由於僱傭合約禁止他們公開批評公司，因此員工害怕就人工智能安全及其戰爭用途發聲。

索菲亞·利古里向BBC表示：「原則上，我終其一生都不被允許批評Google。」但她決定這樣做，「因為我認為讓外界知道這些事情很重要，而且我也認為陳述事實並不等於批評」。

利古里補充說，在Google，「人們害怕遭到報復，害怕影響自己的職業生涯。你會覺得自己正被監視，無法發聲。」

一名現任Google DeepMind員工因擔心遭到報復而拒絕具名。他向BBC表示：「很多因認同（公司）原始使命而加入的積極員工可能會離開，但同時也有源源不絕的職場新人可以填補這些職位。這可能是一場世代交替。」

另一名同樣希望匿名的Google DeepMind員工向BBC表示：「很多對此事（Google DeepMind如何改變其倫理立場）感受強烈的人已經離開公司。」

該員工說：「有些人仍在抗爭，另一些人則想着：『這是一家大公司。你真的期望能改變什麼嗎？』」

Google與以色列的協議亦引發爭議。2024年，公司因與亞馬遜簽署一項價值12億美元（9.6億英鎊）、名為「雨雲計劃」（Project Nimbus）的合作合約而受到員工批評。該項目為以色列政府和軍方提供人工智能技術及雲端運算基礎設施。當時Google表示，Project Nimbus「並非用於與武器或情報部門相關的高度敏感、機密或軍事工作負載」。

此外，以色列在戰爭中的人工智能能力亦成為討論焦點，原因是近期紀錄片《附帶傷亡》（Naza；《殺戮代號︰NAZA》）探討了人工智能驅動目標選定系統在轟炸加沙地帶中的角色，並指出其造成大量平民傷亡。以色列一名政府部長表示，影片中的說法失實且具有誤導性。

前Google員工安德烈亞斯·基爾施認為，人工智能軍事技術尚未準備好投入戰場。他表示：「現有人工智能模型仍不夠穩健，而且我認為它們也未曾針對這類任務接受訓練。」