導入：この記事は War On The Rocks の「AI AT WAR」という記事を翻訳したもので、著者は Anthony King。2023 年 4 月 27 日。記事の内容は翻訳者の意見を代表するものではありません。
人々は一般的に、世界が再び別の軍事革命の瀬戸際にあると信じています。人工知能（AI）は、以前の火薬、戦車、飛行機、原子爆弾と同様に、戦争の性質を変えるでしょう。現在、多くの国が軍事的優位を得るために AI を積極的に活用しています。例えば、中国は 2030 年までに AI 分野で世界のリーダーになる計画を発表しました。中国の「新世代人工知能発展計画」は、「人工知能は未来をリードする戦略的技術である」と宣言しています。ロシアのウラジーミル・プーチン大統領も似たような発言をしています。「誰であれ、この分野のリーダーになれば、世界の支配者になるだろう。」中国とロシアがもたらす挑戦に対処するため、アメリカは「第三のオフセット戦略（The Third Offset Strategy）」を実施すると表明しました。アメリカは国防分野での優位性を維持するために、AI、自動化、ロボティクスに大きく投資する予定です。
これらの注目すべき進展を受けて、軍事評論家たちは AI の軍事応用に強い関心を持つようになりました。例えば、最近出版された著書で、Ben Buchanan と Andrew Imrie は主張しています。AI の出現は人類が火を使い始めたことに匹敵すると。AI 制御の自動化武器は、ますます正確で迅速かつ致命的になるでしょう。彼らは戦争の未来を代表しています。他の多くの学者や専門家も彼らの見解に同意しています。例えば、著名なコンピュータ科学者で AI の先駆者である Stuart Russell は、2020 年の BBC リース講座（BBC Reith Lectures）で AI の軍事的潜在能力を特集したエピソードを公開しました。彼は公然と、殺戮機械と殺人ロボットが台頭していると述べました。彼は、爆発装置を装備した缶サイズの致命的な四軸ドローンのシナリオを描写しました。「人員殺傷地雷は、都市のすべての 16 歳から 60 歳の男性や、イスラエル国内のすべてのユダヤ市民を排除でき、核兵器とは異なり、都市のインフラに影響を与えない。」Russell はまとめて言いました。「800 万人が、なぜあなたが彼らをロボットの追跡から守れないのかを知りたがるだろう。」他の多くの学者も Russell の見解に賛同しており、Christian Brose、Ken Payne、John Arquilla、David Hambling、John Antalなどが含まれています。彼らは、第二世代の AI の発展に伴い、致命的な自律武器、例えば殺人ドローン群がすぐに登場する可能性があると信じています。
軍事革命は、始まりの時点ではその支持者が想像するほど激烈ではないかもしれません。1990 年代の軍事問題革命は確かに重要であり、作戦方法に新たな可能性をもたらしましたが、不確実性（uncertainty）を排除することはありませんでした。同様に、致命的な自動化と AI に関する議論も多くの誇張が含まれています。これらの議論は、AI の現在の動作方法を歪め、可視的な未来における軍事行動への潜在的な影響を歪めています。遠隔自動化システムの重要性は増していますが、戦場で自動ドローン群が軍隊に取って代わる可能性は依然として低く、スーパーコンピュータが人間の指揮官に取って代わることも難しいです。AI は 1950 年代に主要な研究テーマとなりました。その時、AI の動作方法は記号論理に基づいており、プログラマーが入力をコーディングして AI に処理させるものでした。このようなシステムは古典的な人工知能とも呼ばれます。AI は一定の進展を遂げましたが、指定された記号を操作することに基づいているため、その実用性は非常に限られており、特に現実世界ではそうでした。その結果、「人工知能の冬」が 1970 年代後半から 1980 年代の終わりまで続きました。
1990 年代後半以降、ビッグデータ、大規模計算能力、アルゴリズムに基づく第二世代の AI は、いくつかの驚くべき突破口を達成しました。その中には、3 つの重要な出来事が含まれています。1997 年 5 月 11 日、IBM のディープブルー（Deep Blue）がチェスの世界チャンピオン、ガリー・カスパロフを打ち負かしました。2011 年、IBM のワトソンが「Jeopardy!」で勝利しました。そして、さらに優れた成果がありました：2016 年 3 月、アルファ碁（AlphaGo）が世界囲碁チャンピオン、李世石を 4-1 で打ち負かしました。
ディープブルー、ワトソン、アルファ碁は、この卓越した道の重要なマイルストーンです。しかし、20 年の出来事の中で、AI は失望の失敗から予想外の勝利へと移行しました。しかし、第二世代の AI の能力と限界を認識することは非常に重要です。第二世代の AI の開発は、神経ネットワークという概念を中心に展開されています。機械学習プログラムは、そのネットワークを通じて大量のデータを処理し、特定のデータ片に割り当てられた重みを継続的に調整し、最終的に論理的な答えを生成します。このようなシステムは確率に基づいており、帰納的です。プログラムやアルゴリズムは何も知りません。人間の観点から見ると、彼らは現実世界を知らず、処理しているデータの意味も理解していません。機械学習 AI は、アルゴリズムを使用して大量の反復試験を通じて統計的確率モデルを構築するだけです。この方法で、第二世代の AI はデータ内の多くの関連性を識別できます。十分なデータがあれば、確率的帰納法は強力な予測ツールとなります。確かに、AI は因果関係や意図的動機を識別することはできません。著名なシリコンバレーの起業家、ピーター・ティールは、AI の限界を説得力を持って説明しました。「SF 的な想像を忘れてください。現在の AI の真の強みは、コンピュータビジョンやデータ分析のような非常に単純で単調なタスクに適用できることです。」このように、機械学習は限られた、特定の範囲の、数学的に表現可能なタスクにおいて人間をはるかに上回るパフォーマンスを発揮しますが、それでも非常に弱いのです。AI はその訓練に使用されたデータに完全に依存しており、実際の環境（つまりデータ）内の最も微細な変化でも、その機能を完全に失うことがあります。
AI 軍事革命の展望にとって、データに基づく帰納的機械学習が現実環境に直面するこの脆弱性は非常に重要な問題です。AI の支持者と反対者は、近い将来、自律型ドローンが都市環境で目標を識別し攻撃することが非常に容易になると示唆しています。結局のところ、自律型ドローン群は展示されたことがありますが、それは認められた人為的かつ制御された環境の中でのことでした。しかし、実際の状況では、陸戦で自律的に行動できるドローンを訓練することは非常に困難です。戦場環境は非常に動的で変化しやすく、特に民間人と軍人が混在する都市環境ではさらに複雑です。現在、信頼できるドローン群の訓練に使用できるデータは存在しないようです —— 戦場の状況はあまりにも変動が激しいのです。同様に、アルゴリズムがどのように指揮決定を行っているのかを理解することも非常に難しいです。指揮決定には、異なる構造の情報を解析し、政治的および軍事的要因をバランスよく考慮する必要があります。これらすべてには判断が必要です。Avi Goldfarb と Jon R. Lindsay は最近の論文で次のように考えています。「完璧なデータがあれば、データと AI は単純な決定を下すための最良の選択肢です。」本質的に、軍事指揮決定は必然的に複雑性と不確実性を含むと言えます。指摘すべきは、Googleやアマゾンが優れたデータ企業であるにもかかわらず、彼らの経営者はいつかアルゴリズムが彼らの戦略や運営の決定を代替することを想定していないということです。データは、アルゴリズムによる迅速な処理を経て、企業の経営者が市場をよりよく理解するのに役立ちます —— その深さと精緻さは、競争相手には及びません。情報優位性は、彼らの支配的地位を助けています。しかし、機械学習は経営管理機能を代替することはできません。
したがって、近い将来、AI 制御の致命的な自律ドローンや殺人ロボットが戦場を支配することは非常に考えにくいです。コンピュータやスーパーコンピュータが指揮官に取って代わることも極めて難しいでしょう。しかし、これは AI、データ、機械学習が現代および未来の軍事行動において重要でないことを意味するわけではありません。彼らは非常に重要です。しかし、AI とデータの機能は主に致命的なものではなく —— 彼らは人間が火を使うことを学ぶようなものではありません。データはサイバースペースに保存されたデジタル情報であり、その重要性は国家政府が自国と対戦相手をより広範囲かつ深く、信頼性を持って理解できるようにすることにあります。AI を使用して大量のデータを効果的に処理することで、軍事指揮官は前例のない深さ、速度、解像度で戦場空間を認識できます。データと AI は、ネットワーク軍事行動や情報戦にも非常に重要です。彼らは防御と攻撃において不可欠な部分となっています。AI とデータは、サイバースペースを利用したデジタル軍事情報の面では人類の新たな火とは言えませんが、巨大な新しい情報源として機能します。AI は私たちに「丘の向こう側を見る」のを助けてくれます。これは革命的です。現代戦争において、データと AI は重要な情報機能であり、唯一の重要な情報機能とも言えます。
著名な軍事評論家ポール・シャーレは、AI が致命的な自動化に向かうことは避けられないと述べています。彼は 2019 年に出版したベストセラー「無人軍隊」（Army of None）の中で、遠隔自動化武器システムの台頭を描写しました。シャーレはこの本の中で、AI が戦争に革命をもたらすと提案しています。「未来の戦争では、機械が生死を決定するかもしれません。」AI の潜在能力に魅了され続けているものの、彼の考えは大きく変化しました。彼は 2023 年 2 月に出版した新書「四つの戦場」（Four Battlegrounds）で、最初の見解を大きく修正しました。この新書では、彼は「無人軍隊」で描かれた破滅的な状況を放棄しました。「無人軍隊」が SF エッセイであるなら、「四つの戦場」は政治経済学の作品です。それは大国競争の具体的な問題と、その競争の下での産業戦略と規制システムを解読しています。この本は、デジタル情報が軍事競争に与える影響を描写しています。シャーレは、データの力を利用するために必要な規制環境を分析しています。彼は力強く主張しています。アメリカと中国の超大国競争において、データとデータを処理する AI の優位性が軍事的決定的要因になるだろうと。データは重要な情報優位性を提供します。シャーレによれば、この情報競争の勝者を決定する重要な資源は 4 つあります。「この四つの戦場 —— データ、計算、才能、機関（テクノロジー企業）—— でリードする国は、AI 分野で重要な優位性を得るでしょう。」彼はアメリカと中国がこの四つの資源を巡って死闘を繰り広げると考えています。現在、中国とアメリカは、どちらの国が AI 分野で優位に立つかによって、その国が政治、経済、そして重要な軍事分野で著しく先行できることを十分に認識しています。その国は対戦相手よりも多くのことを知ることができ、その国は軍事力をより効率的に使用でき、その国は情報とネットワーク空間を支配でき、その国はより致命的になります。
「四つの戦場」は、中国とアメリカのデータと AI における激しい競争を描写しています。それはこの二つの国の最近の進展を描写し、彼らの相対的な力を評価しています。中国は依然としていくつかの分野でアメリカに遅れを取っています。アメリカには人材の優位性があり、研究と技術でリードしています。「中国はチップ生産において停滞しています。」しかし、シャーレはアメリカに対して油断しないよう警告しています。実際、この本は著者がアメリカがデータ競争で遅れを取ることへの懸念を生き生きと示しています。したがって、シャーレは中国の優位性とその急速な発展の速度を強調しています。中国には 9 億人のインターネットユーザーがいて、そのデータ量はアメリカをはるかに上回っています。ライドシェアなどの経済分野において、中国のデジタル化の程度はアメリカを遥かに超えています。例えば、アメリカには WeChat のような同様の製品はありません。中国の多くのアプリはアメリカの類似アプリよりも優れています。さらに、中国政府は法律や市民のプライバシーの懸念に縛られていません。中国共産党は市民のデジタルアーカイブを積極的に監視し —— 彼らのデータを収集し、活動を記録しています。政府は都市で顔認識技術を使用して個人を識別しています。
政府の管理は中国のテクノロジー企業にも利益をもたらします。「共産党の情報監視と社会制御への大規模な投資は、中国の AI 企業の発展を大いに促進し、彼らを政府と結びつけました。」中国政府はテクノロジー業界と密接に協力しています。中国の規制における優位性はアメリカをはるかに超えています。中国共産党は百度やアリババなどのテクノロジー巨頭に保証を提供します。「中国のテクノロジー業界への投資は、リターンをもたらしています。」シャーレはまとめています。「中国は新しいデジタル権威主義のモデルを創造しているだけでなく、それを積極的に輸出しています。」
アメリカ政府は、中国のデータと AI の主導権に対抗するためにどのように対応するのでしょうか？シャーレはこの点について非常に興味深いことを書いています。アメリカ政府は、データの軍事的潜在能力を活用するために、規制面で大きな変革を行う必要があります。武装部隊はテクノロジー業界と深く協力する必要があります。「彼らは伝統的な国防請負業者とだけ協力するのではなく、スタートアップ企業とも接触しなければなりません。」これは簡単なことではありません。シャーレはアメリカの厳しい規制環境を記録しています。「アメリカでは、アマゾン、アップル、Meta、Google などの大手テクノロジー企業は独立した権力の中心であり、特定の問題において政府としばしば対立します。」シャーレは、2017 年に Google で起こった悪名高い抗議活動 —— 同社の従業員が国防総省のプロジェクト・メイヴンでの作業を拒否したことについて議論しています。アメリカのテクノロジー業界の一部は、AI の軍事応用に懐疑的です。
アメリカのテクノロジー企業は、常に武装部隊と協力することを望んでいないかもしれませんし、国防総省も支援を提供していません。この無形の障害は軍とテクノロジー企業の協力を妨げています。国防総省と防衛産業の関係は常に密接です。例えば、1961 年、ドワイト・D・アイゼンハワー大統領は「軍事 - 産業複合体」が民主主義に対する脅威であると警告しました。国防総省は、戦闘プラットフォームの政府調達のために設計された調達と契約プロセスのセットを発展させました。ロッキード・マーチンやノースロップ・グラマンは、国防省の多様な要求を満たすために、相応の武器システムを提供することに非常に熟練しています。しかし、テクノロジー企業の仕事の仕方はそうではありません。シャーレのインタビューを受けたある人は、「AI を購入する方法は弾薬を購入する方法とは異なります。」と述べています。テクノロジー企業が販売するのは、銃のような具体的な機能ではありません。彼らが販売するのはデータ、ソフトウェア、計算能力 —— 要するに、専門知識です。非常に具体的な問題に対して、アルゴリズムやプログラムを開発する最良の方法は、反復的に開発することです。軍事任務において、特定のソフトウェアやアルゴリズムの全潜在能力は、テクノロジー企業にとっても直接的に明らかではないかもしれません。そして、テクノロジー企業の運営環境は激しい競争があり、国防総省とのより柔軟でオープンな契約体系を好む傾向があります —— テクノロジー企業は安全で迅速な資金回収を求めています。テクノロジー企業が求めているのは、単なるプラットフォーム構築の契約ではなく、協力的な参加です。
アメリカ軍、特に国防総省は、この新しい方法が常に容易な契約モデルではないことを発見しています。過去には、官僚機構の要求に対する反応が鈍く —— 調達プロセスには 7 年から 10 年かかることがあります。しかし、多くの緊張と矛盾が存在し、このシステムは決して完璧ではありませんが、シャーレは規制環境が変化していることにも注目しています。彼はアメリカに新しい軍事 - テクノロジー複合体が出現していると描写しています。もちろん、プロジェクト・メイヴンはこのプロセスの例です。2017 年、ボブ・ワークは現在非常に有名なメモを発表し、「アルゴリズム戦跨職能チーム」—— プロジェクト・メイヴンを発表しました。グローバルな対テロ戦争の期間中に監視ドローンや軍用衛星が登場して以来、アメリカ軍は全動的ビデオストリームに浸透しています。それらの映像の価値は比類がありません。例えば、2019 年、アメリカ空軍は 24 時間体制の空中監視システム「ゴルゴン・ステア」を使用して、カブールでの自動車爆弾爆発事件（126 人の民間人が死亡）を遡り、この攻撃を実行するための安全な場所を特定しました。しかし、人間がこの作業を行うにはあまりにも遅すぎました。したがって、空軍はコンピュータビジョンアルゴリズムを使用して全動的ビデオをスクリーニングする実験を開始しました。プロジェクト・メイヴンの目標は支援することです。空軍を。しかし、それには新しい契約環境が必要です。ワークは長期の調達プロセスを採用せず、90 日の短期プロセスを導入しました。企業は実用性を示すために 3 ヶ月の時間を与えられます。進展があれば契約を実行し、進展がなければ退出します。その間に、ワークはドローンの映像を解読し、プロジェクト・メイヴンがアルゴリズムを訓練できるようにしました。2017 年 7 月までに、プロジェクト・メイヴンは 38 種類の異なる目標カテゴリを検出できる初期のオペレーティングシステムを持っていました。その年の終わりまでに、このシステムは ISIS に対する作戦に配備されました。「このツールは非常にシンプルで、特殊作戦部隊が使用するスキャンイーグルドローンの映像から人員、車両、その他の目標を識別し追跡することができました。」
プロジェクト・メイヴン以降、国防総省は軍事とテクノロジー業界の協力を促進するための他のいくつかの措置を導入しました。国防革新局（The Defense Innovation Unit）は、国防総省とシリコンバレー企業との関係を加速させ、26 日間の期限で契約を提供します。国防革新局の最初の 5 年間で、120 社の「非伝統的」企業と契約を結びました。ジャック・シャナハン中将の指導の下、共同人工知能センター（Joint Artificial Intelligence Centre）は、武装部隊とテクノロジー企業の協力を進める上で重要な役割を果たし、関与する任務には人員救助や災害救助活動が含まれ、野火マップや災害後評価のためのソフトウェアを開発しました —— シャーレの本の中でこれらの例がより軍事的な用途を暗示しているかどうかは不明です。初期の困難を経て、ジェームズ・マティス将軍は国防長官として、共同企業国防インフラ（Joint Enterprise Defense Infrastructure）を設立し、テクノロジー企業への調達システムを革新しました。例えば、国防総省は 2021 年に約 1 億ドルを投じてアンドゥリルに AI ベースの反ドローンシステムを開発させました。
「四つの戦場」は、AI と戦争に関連する文献に対する非常に良い補完であり、内容が豊富です。この本が伝えたいメッセージは明確です。軍隊にとって、データと AI は現在重要であり、将来も非常に重要です。しかし、データと AI は戦闘そのものを根本的に変えるわけではありません —— 致命的な武器システムを操作するのは依然として主に人間であり、ウクライナでの野蛮な戦争のように。戦闘の状況は複雑で混乱しています。武器を最大限に活用するためには、人間の判断力、技術、そして策略が必要です。しかし、未来の戦場で勝利を目指す軍隊は、大データの潜在能力を発揮する必要があります —— 軍隊は戦場空間における膨大なデジタル情報を把握しなければなりません。人間自身にはそれを行う能力はありません。したがって、司令部はそのデータを処理するためのアルゴリズムとソフトウェアを必要とします。軍はこれらのシステムを作成するためにテクノロジー企業と緊密に協力する必要があり、作戦指揮部はこれらのシステムが正常に機能することを保証するためにデータサイエンティスト、エンジニア、プログラマーを必要とします。武装部隊がこれを実現できれば、データは彼らに戦場空間をより深く、より広く見通す能力を与えるでしょう。これは軍事行動の問題を完全に解決するわけではありません —— 霧と摩擦（fog and friction）は依然として存在します。しかし、データの助けを得た指揮官は、より効果的かつ効率的に軍隊を展開する能力を持つかもしれません。データは武装部隊と人間の戦闘部隊の殺傷力を高めることができます。ロシア・ウクライナ戦争は、データ中心の軍事行動が依然として模擬的に行動する対戦相手を上回ることを私たちに示しています。シャーレの本は、ウクライナのロシア軍の運命が次の戦争が来るときにアメリカに降りかからないことを確保するための叫びです。