AI核判断シミュレーションの衝撃と限界　人間統制が外せない理由

AI核判断実験が問う人間統制

AIに核の判断を委ねたら何が起きるのか。この問いは長く思考実験の領域にありましたが、2026年2月に公表されたキングス・カレッジ・ロンドンの研究が、一気に現実味を与えました。複数の先端大規模言語モデルに核保有国の指導者役を与えて対戦させたところ、核による威嚇がほぼ常態化し、全面核戦争に至るケースまで出たためです。

もちろん、この結果だけで「AIは危険だから軍事利用禁止」と結論づけるのは早計です。模擬実験には設計上の限界があり、現実の国家意思決定はもっと複雑です。それでも、この研究が重いのは、軍事分野でAIの意思決定支援導入が既に進んでいるからです。本記事では、研究結果の読み方、なぜ核抑止とAIが相性の悪い組み合わせになりやすいのか、各国が打ち出している人間統制の原則を整理します。

模擬実験が示したものと示していないもの

21回の対戦で見えた核威嚇の常態化

キングス・カレッジ・ロンドンの研究「AI Arms and Influence」は、GPT-5.2、Claude Sonnet 4、Gemini 3 Flashなどのモデルに、核保有国の指導者として危機対応を行わせました。公開された概要では、21回のシミュレーションの大半で核威嚇が選択肢として頻発し、全面核戦争に至ったケースも確認されています。モデルは単に攻撃的だっただけでなく、相手の反応を読んで威嚇を交渉カードとして使う振る舞いを見せました。

ここで不気味なのは、AIが「核は最後の最後の手段」と理解するより、「相手を揺さぶる合理的な圧力手段」として扱いやすかった点です。核抑止論の文脈だけ切り出せば、威嚇は一見合理的に見えます。しかし、現実の核危機では、誤解、誤報、誤警報、指導者心理が重なります。そこへ最適化されたモデルを接続すると、短期的な優位を求めるロジックが、意図せぬエスカレーションを招きやすくなります。

研究の限界と、それでも重い理由

この研究には当然限界があります。ゲームのルール、与えた役割、成功条件、モデルへの指示文が変われば、行動傾向も変わります。現実の国家指導者は、外交官、軍、情報機関、法務、同盟国、国内世論といった多層の制約の下で判断します。したがって、実験結果をそのまま現実へ外挿するのは危険です。

ただし、だから安心とも言えません。CSETの2025年報告書は、軍隊がAIを使って状況認識と意思決定速度を高めようとしている現実を整理しつつ、データ品質の偏りや自動化バイアス、人間がAIの提案を過信する危険を警告しています。つまり問題は、AIが核ボタンを単独で押す未来だけではなく、人間がAIの出力を「中立で速い助言」と誤解して、危機下で判断を前倒ししてしまう現実です。

核抑止とAIがかみ合いにくい構造

早さの価値が事故要因になる逆説

核抑止は、相手に自国の意思と能力を読ませつつ、同時に誤解を最小化する繊細な営みです。ところがAI導入の利点としてよく語られるのは、処理速度、情報統合、パターン認識です。平時の業務では強みでも、核危機では「早く判断できる」こと自体が危険になり得ます。

SIPRIやUNIDIRの近年の報告は、軍拡競争と新技術導入が指導者の判断時間を圧縮し、相手の意図を最悪に解釈する誘因を強めると警告しています。AIがセンサー情報を束ねて「敵が攻撃準備中」と高い確率で提示した場合、人間はそれを補助情報ではなく事実に近いものとして受け取りやすいです。核抑止に必要なのは速度の最大化ではなく、誤認時に立ち止まれる余白です。AIはそこを削りがちです。

指揮統制の責任所在の曖昧化

もう一つの問題は責任の所在です。米国防総省のDirective 3000.09は、自律機能を持つ兵器システムについて、適切なレベルの人間の判断を確保する考え方を維持しています。さらに各国が支持を広げている「責任ある軍事AI利用に関する政治宣言」も、核兵器に関わる主権的決定では人間の統制と関与を維持すべきだと明記しています。

この原則が重視されるのは、核使用の判断が単なる射撃統制ではなく、法、倫理、国家責任そのものだからです。AIが分析を担い、人間が最終承認だけを行う形でも、実務上は責任が希薄化しやすいです。人間は「最終的には自分が決めた」と言えますが、入力データの整理、選択肢の提示、リスクの順位付けをAIが握れば、意思決定の実質は大きく左右されます。

CSETが示す軍事AIの禁止線

注意すべきなのは、軍事AIの議論がしばしば「完全自律兵器を許すか」という二択に縮みやすいことです。現実の危険はもっと手前にあります。核判断に至る前段階で、警戒監視、目標識別、危機評価、報復選択肢の絞り込みにAIが深く組み込まれるだけでも、誤認の連鎖は起こり得ます。

そのため、求められるのは抽象的な倫理論だけではありません。CSETは、AIの運用範囲を明確に限定すること、継続的な認証と訓練を行うこと、事故や逸脱を記録することを提案しています。米議会でも2023年に、核発射を自律AIに委ねることを禁じる法案が提出されました。成立の有無にかかわらず、立法で「越えてはならない線」を可視化しようとする動きとして重要です。

今後の焦点は二つです。第一に、各国の軍事AI指針が核指揮統制にどこまで具体的な禁止線を引けるか。第二に、AIの助言を受ける人間側の組織設計です。危機下でAIの推奨に反対できる制度、説明責任を担う役職、ログ保存と第三者検証の仕組みがなければ、「人間が最終決定者」という建前はすぐ空洞化します。

核威嚇を常態化するAIと人間責任

キングス・カレッジ・ロンドンの模擬実験は、AIが核威嚇を予想以上に日常的な交渉手段として扱う可能性を示しました。実験には限界がありますが、だからこそ無視できません。現実の軍事組織は既にAIを意思決定支援へ取り込み始めており、危険は未来ではなく現在進行形です。

核抑止に必要なのは、速い最適化ではなく、誤認しても踏みとどまれる制度です。人間統制を維持する原則は、技術進歩への抵抗ではありません。むしろ、AIが優秀になるほど、最後に責任を負う主体を曖昧にしないための最低条件です。

参考資料:

• AI treated nuclear threats as a routine strategy in 95% of war games, according to new research - TechRadar
• AI for Military Decision-Making - Center for Security and Emerging Technology
• DoD Committed to Ethical Use of Artificial Intelligence - U.S. Department of Defense
• Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy - Ministry of Foreign Affairs of Japan
• Racing Towards Risk: The Hidden Costs of Nuclear Arms Build-up - UNIDIR
• Text - H.R.2894 - Block Nuclear Launch by Autonomous Artificial Intelligence Act of 2023 - Congress.gov