導讀：本文譯自 War On The Rocks 文章《AI AT WAR》，作者：Anthony King。2023 年 4 月 27 日。文章內容不代表譯者觀點。
人們普遍相信世界又到了另一場軍事革命的邊緣。人工智慧（AI）即將改變戰爭的性質，正如之前的火藥、坦克、飛機和原子彈一樣。如今，許多國家都在積極主動地利用 AI 來贏得軍事優勢。舉個例子，中國已經宣布計劃在 2030 年之前在 AI 領域處於世界領先地位。中國的《新一代人工智慧發展規劃》宣稱：「人工智慧是引領未來的戰略性技術。」俄羅斯總統弗拉基米爾・普京也有類似發言：「無論是誰，只要成為這一領域的領導者，就會變成世界的統治者。」為了應對中國和俄羅斯帶來的挑戰，美國已表示將實施「第三次抵消戰略（The Third Offset Strategy）」。美國將大力投入 AI、自動化和機器人技術，以維持其在國防領域的優勢。
有鑑於這些惹人眼球的進展，軍事評論家們對 AI 的軍事應用問題產生了濃厚興趣。舉個例子，在近期出版的一本專著中，Ben Buchanan 和 Andrew Imrie 宣稱 AI 的出現堪比人類開始使用火。AI 控制的自動化武器將會變得越來越精準、快速和致命。它們代表著戰爭的未來。其他許多學者和專家也同意他們的看法。比如，傑出的計算機科學家和人工智慧先驅 Stuart Russell 在其 2020 年的 BBC 里斯講座（BBC Reith Lectures）中用專門一集介紹了 AI 的軍事潛力。他公開表示：屠殺機器和殺手機器人正在興起。他描述了一個場景，其中有一架罐子大小的致命四軸飛行器，裝備了爆炸裝置：「人員殺傷地雷可以清除城市中所有 16 到 60 的男性或以色列境內所有的猶太公民，而且不同於核武器，它不會波及城市基礎設施。」Russell 做總結時說：「將有 800 萬人想知道你為什麼不能保護他們免於機器人的追殺。」其他許多學者也贊同 Russell 的觀點，包括 Christian Brose、Ken Payne、John Arquilla、David Hambling 和 John Antal；他們相信隨著第二代 AI 的發展，可能會很快出現致命性自主武器，比如殺人無人機群。
軍事革命一開始的時候可能並不如其推崇者預想那樣激烈。1990 年代的軍事事務革命確實很重要，它為作戰方式帶來了新的可能性，但它並沒有消除不確定性（uncertainty）。類似地，有關致命性自動化和 AI 的辯論也多有誇張之辭。這些討論歪曲了 AI 目前的工作方式，並進而歪曲了其在可見的未來裡對軍事行動的潛在影響。儘管遠程自動化系統的重要性與日俱增，但在戰場上用自動無人機群替代軍隊的可能性還是很小的，也很難用超級計算機替代人類指揮官。AI 在 1950 年代變成了一大主要研究主題。那時候，其運作方式是基於符號邏輯 —— 程序員將輸入編碼好之後交由 AI 處理。這類系統也被稱為老式人工智慧。AI 取得了一些進展，但由於它是基於對所指定的符號進行操作，其實用性就非常有限了，尤其是在真實世界中。由此出現了一次「人工智慧冬天」，從 1970 年代後期直到 1980 年代結束。
自 1990 年代後期以來，基於大數據、大規模計算能力和算法的第二代 AI 取得了一些驚人突破，其中包括三個有重大意義的事件。1997 年 5 月 11 日，IBM 的深藍（Deep Blue）擊敗了國際象棋世界冠軍加里・卡斯帕羅夫。2011 年，IBM 的 Watson 在《Jeopardy!》獲勝。然後是更出色的成就：2016 年 3 月，AlphaGo 以 4-1 的成績擊敗世界圍棋冠軍李世石。
深藍、Watson 和 AlphaGo 都是這條卓越之路上的重要路標。不過二十年事件，AI 就從讓人失望的失敗邁向了意想不到的勝利。但是，我們需要認識到第二代 AI 的能力和局限，這非常重要。第二代 AI 的開發圍繞著一個概念：神經網絡。機器學習程序能通過它們的網絡處理大量數據，不斷調整分配給特定數據片段的權重，最終生成合乎邏輯的答案。這類系統是基於概率的，並且是歸納式的。程序和算法什麼也不知道。從人類的角度看，它們並不知道真實世界，也不清楚它們所處理的數據的含義。機器學習 AI 只是使用算法通過大量重複試驗來構建統計概率模型。通過這種方式，第二代 AI 可以識別出數據中多種相關性。只要有足夠多的數據，概率歸納就能成為一種強大的預測工具。是的，AI 並不能辨別因果關係或意圖動機。著名的矽谷科技企業家 Peter Thiel 曾充滿說服力地闡明了 AI 的局限：「忘掉那些科幻般的想象吧，現在的 AI 的真正強大之處是可以應用於相當簡單單調的任務，比如計算機視覺和數據分析。」由此，儘管機器學習在一些有限的、限定範圍的、可數學表徵的任務上的表現遠遠優於人類，但依然很弱。它完全依賴其訓練所用的數據，甚至實際環境（即數據）中最細微的改變就能讓其完全失去作用。
對 AI 軍事革命的前景而言，基於數據的歸納式機器學習面對真實環境的這種脆弱性是非常重要的問題。AI 的支持者和反對者都暗示：在不久的將來，自主無人機將能相當輕鬆地在城市環境中飛行、識別和攻擊目標。畢竟，自主無人機群已經得到過展示了 —— 但那是在公認的人為和受控環境中。但是，在實際情況中，訓練能在陸戰中自主行動的無人機是非常困難的。戰場環境非常動態多變，還非常複雜，尤其是平民和軍人混雜在一起的城市環境。目前似乎沒有可用於可靠訓練無人機群的數據 —— 戰場情況實在過於多變了。類似地，我們也很難了解算法是如何做出指揮決策的。指揮決策需要解析不同結構的信息，平衡地考慮政治和軍事因素；所有這些都需要進行判斷。Avi Goldfarb 和 Jon R. Lindsay 在近期的一篇文章中認為：如果有完美的數據，那麼數據和 AI 是制定簡單決策的最佳選擇。可以說在本質上，軍事指揮決策都必然涵蓋複雜性和不確定性。需要指出，儘管谷歌和亞馬遜都是傑出的數據公司，但它們的經理人們卻並未設想過某天用算法來替代他們制定戰略和運營決策。數據在經過算法的快速處理後可以幫助公司高管們更好地理解市場—— 其深度和精細程度都是它們的競爭對手所不能及的。信息優勢已經助力它們成就霸主地位。但是，機器學習沒能替代經營管理職能。
因此在近未來時間裡，由 AI 控制的致命性自主無人機或殺人機器人還是非常不可能接管戰場的。計算機或超級計算機也極不可能替代指揮官。但是，這並不意味著 AI、數據和機器學習對當代和未來的軍事行動不重要。它們非常重要。但是，AI 和數據的職能主要並不是致命性的 —— 它們並不像是人類學會用火那樣。數據是存儲在賽博空間中的數字化信息，其重要性在於能讓國家政府更廣度、更深度和更可信地理解它們自身及對手。當使用 AI 有效地處理大量數據後，軍事指揮官能以前所未有的深度、速度和分辨率感知戰場空間。數據和 AI 還對網絡軍事行動和信息戰非常關鍵。它們已經成為防禦和攻擊中不可或缺的部分。AI 和數據在作為利用賽博空間的數字化軍事情報方面還算不上人類的新火，但是卻能作為一個巨大的新信息源。AI 能幫助我們「看到山的另一邊」，它在這方面是革命性的。對現代戰爭而言，數據和 AI 是一種關鍵性的情報職能，甚至可以說是唯一關鍵的情報職能。
著名軍事評論家 Paul Scharre 曾表示 AI 將無可避免地走向致命性自動化。他在 2019 年出版的暢銷書《無人軍隊》（Army of None）中描繪了遠程自動化武器系統的興起。Scharre 在書中提出 AI 將為戰爭帶來革命：「在未來的戰爭中，機器可能決定生死。」即便 AI 的潛力依然讓他著迷，但他的想法已經發生了重大變化。他 2023 年 2 月出版的新書《四大戰場》（Four Battlegrounds）對他最初的觀點進行了重大修正。新書中他放棄了在《無人軍隊》中描繪的災難性情形。如果說《無人軍隊》是一本科幻散文，那麼《四大戰場》就是一本政治經濟學作品。它解讀了大國競爭的具體問題以及競爭之下的產業戰略和監管體系。這本書描述了數字化情報對軍事競爭的影響。Scharre 分析了利用數據的力量所需的監管環境。他有力地宣稱，在美國和中國的超級大國競爭中，爭奪數據以及處理數據的 AI 方面的優勢將會成為軍事的決定性因素。數據將會提供重大的情報優勢。在 Scharre 看來，決定這場情報競賽勝者的關鍵資源有四種：「在這四大戰場 —— 數據、計算、人才、機構（科技公司）—— 領先的國家將在 AI 領域獲得重大優勢。」他認為美國和中國會陷入對這四種資源的殊死爭奪中。現在，中國和美國都已經充分認識到，無論哪個國家在 AI 領域獲得優勢，該國就能在政治、經濟以及關鍵的軍事領域顯著領先。該國能比對手知道得更多。該國能更加高效地使用軍事力量。該國能主導信息和網絡空間。該國將更具殺傷力。
《四大戰場》描繪了中國和美國在數據和 AI 上的劇烈競爭。它描述了這兩個國家近來的進展並評估了它們的相對實力。中國仍在一些領域落後於美國。美國有人才優勢，並且在研究和技術上領先。「中國在芯片生產方面是一潭死水。」但是，Scharre 警告美國不要自滿。事實上，這本書生動展現了作者對美國將在數據競爭中落後的擔憂。因此，Scharre 重點說明了中國的優勢以及其高速發展的速度。中國已有 9 億網民，其數據量遠超美國。在網約車等經濟領域，中國的數字化程度也遠遠超越美國。舉個例子，美國就沒有微信的同類產品。中國的許多應用都優於美國的類似應用。此外，中國政府也不受法律或公民的隱私擔憂的約束。中國共產黨積極監控其公民的數字檔案 —— 收集他們的數據並記錄他們的活動。政府在城市中使用人臉識別技術來識別個人。
政府控制也使中國的科技公司受益：「中共在情報監控和社會控制方面的大規模投資極大推動了中國 AI 公司的發展並將它們與政府綁在了一起。」中國政府與科技行業有緊密的協同。中國在監管方面的優勢也遠超美國。中國共產黨會為百度和阿里巴巴等科技巨頭提供擔保：「中國對科技行業的投資正在帶來回報。」Scharre 總結到：「中國不僅僅是在創造一種新型數字威權主義模式，並且還在積極地輸出它。」
美國政府將如何應對中國對數據和 AI 主導地位的爭奪？Scharre 在這方面寫得很有意思。美國政府為了有能力利用數據的軍事潛力，需要在監管方面做出重大改變。武裝部隊需要與科技行業深入合作。他們「不能只與傳統國防承包商合作，還必須與創業公司接觸。」這不是件容易事。Scharre 記錄了美國那充滿挑戰性的監管環境：「在美國，亞馬遜、蘋果、Meta 和谷歌等大型科技公司是獨立的權力中心，經常在特定問題上與政府發生分歧。」Scharre 討論了谷歌在 2017 年臭名昭著的抗議活動 —— 該公司員工拒絕參與國防部的 Project Maven 中的工作。美國科技行業中一部分人對 AI 的軍事應用充滿疑慮。
美國科技公司可能一直都不願與武裝部隊合作，而國防部也一直沒有提供幫助。這無形中妨礙了軍方與科技公司的合作。國防部與國防產業之間一直關係密切。舉個例子，1961 年，德懷特・D・艾森豪威爾總統就「軍事 - 工業複合體」對民主的威脅發出了警告。國防部已經發展出了一套採購和承包流程，而這主要是為政府採購作戰平台設計的，比如坦克、艦船和飛機。為了滿足國防部那千差萬別的指標，洛克希德・馬丁公司和諾斯羅普・格魯曼公司已經非常擅長交付相應的武器系統。科技公司的工作方式卻非如此。正如 Scharre 的一位受訪者所說：「購買 AI 的方式和購買子彈不一樣。」科技公司售賣的不是槍支那樣的具體功能。它們賣的是數據、軟件和計算能力 —— 歸總而言，它們賣的是專業知識。針對一個非常具體的問題，開發算法和程序的最好方法是迭代式地開發。對一個軍事任務而言，某些軟件和算法的全部潛力可能無法直接明顯地看出來，即使對科技公司也是如此。而科技公司的運營環境有著激烈的競爭，因此更加偏好與國防部建立更為靈活、開放式的承包體系 —— 科技公司需要安全和快速的資金回報。科技公司尋求的是合作參與，而不只是一个構建某个平台的合同。
美國軍方，尤其是國防部，發現這種新式方法並不總是很容易的承包模式。過去，官僚機構的需求反應很遲鈍 —— 採購流程可以耗費 7 到 10 年時間。但是，儘管存在許多緊張矛盾並且該體系遠非完美，Scharre 也還是注意到監管環境正在變化。他描述到美國正在出現新的軍事 - 科技複合體。當然，Project Maven 就是這一進程的例證。2017 年，Bob Work 發布了一份現在已經很著名的備忘錄，其中宣布了「算法戰跨職能團隊」——Project Maven。自全球反恐戰爭期間出現監視無人機和軍用衛星以來，美國軍方就浸潤在了全動態視頻流中。那些錄像的價值無與倫比。舉個例子，2019 年，美國空軍使用 24 小時全天候的空中監視系統 Gorgon Stare 回溯了喀布爾發生的一次汽車炸彈爆炸事件（其中 126 名平民死亡），最終找到了用於發動這次攻擊的安全屋的位置。然而，用人類來做這件事實在太慢了。因此，空軍開始實驗使用計算機視覺算法來篩查全動態視頻。Project Maven 的目標是助力空軍。但它需要新的承包環境。Work 沒有採用長時間的採購流程，而是引入了 90 天的短時流程。公司有三個月時間來展示它們的實用程序。如果它們取得了進展，就執行與它們的合同 —— 如果沒有進展，它們就出局。與此同時，Work 解密了無人機錄像，以便 Project Maven 可以訓練它們的算法。到 2017 年 7 月時，Project Maven 已經有了初始的操作系統，可以檢測出 38 種不同的目標類別。到那年年底時，該系統被部署到了用於打擊 ISIS 的行動中：「這個工具相當簡單，能夠從特種操作員使用的 ScanEagle 無人機視頻中識別和跟蹤人員、車輛和其他目標。」
自 Project Maven 之後，國防部還推出了其它一些促進軍事和科技行業合作的措施。國防創新部門（The Defense Innovation Unit）加速推進國防部與矽谷公司的關係，以 26 天為期限提供合同，而不是以月或年為期。在國防創新部門最初的五年裡，其與 120 家「非傳統」公司簽訂了合同。在 Jack Shanahan 中將的領導下，聯合人工智慧中心（Joint Artificial Intelligence Centre）在推進武裝部隊與科技公司的合作之間發揮了重要作用，涉及的任務包括人員救援和救災行動，它們開發了用於繪製野火地圖和災後評估的軟件 —— 我們並不清楚 Scharre 書中的這些例子是否暗含了更軍事的用途。在經歷過早期的困難之後，James Mattis 將軍在擔任國防部長時創建的聯合企業國防基礎設施（Joint Enterprise Defense Infrastructure）革新了對科技公司的採購體系。舉個例子，國防部在 2021 年投入近 1 億美元幫助 Anduril 開發了一套基於 AI 的反無人機系統。
《四大戰場》是對 AI 和戰爭相關文獻的極好補充，內容豐富。這本書要傳達的信息很清楚。對軍隊而言，數據和 AI 現在很重要，將來也非常重要。但是，數據和 AI 並不會從根本上改變戰鬥本身 —— 操作致命武器系統的仍將主要是人類，包括能殺人的遠程武器系統，就像發生在烏克蘭的野蠻戰爭中的那樣。戰鬥中的狀況複雜又讓人困惑。為了讓武器發揮最大效果，人類的判斷力、技巧和詭詐能力都是必需的。但是，任何希望在未來戰場上獲勝的軍隊都需要發揮出大數據的潛力 —— 軍隊必須掌控戰場空間中洶湧的數字化信息。人類自身是沒有能力做到這一點的。因此，總部需要算法和軟件來處理那些數據。軍方需要與科技公司建立緊密的合作關係來創造這些系統，行動指揮部需要數據科學家、工程師和程序員來保證這些系統正常工作。如果武裝部隊能夠做到這一點，數據將讓他們更深度和更廣度地看透戰場空間。這無法完全解決軍事行動的問題 —— 迷霧和摩擦（fog and friction）依舊會持續存在。但是，得到了數據助力的指揮官也許有能力更加有效且高效地部署軍隊。數據能增強武裝部隊和人類戰鬥隊伍的殺傷力。俄烏戰爭已經讓我們先一步看到了以數據為中心的軍事行動是要勝過仍以模擬方式行動的對手。Scharre 的書是在疾呼，是為了確保在烏克蘭的俄軍的命運不會在下一場戰爭到來時落到美國頭上。