Economist Column No.2026-065

米中間で動き出したAIを巡る危機管理 ―事案の情報共有と企業の安全対策―

2026年10月05日　福田直之

米中両国は、９月24日の首脳会談とそれに先立つ人工知能（AI）（注）に関する高官級の政府間対話を通じ、不測の事態といったAI関連事案に関する連絡経路を整備することで合意した。今回の合意は、AI開発競争を続けながらも、重大な事故や誤認による危機の拡大を防ぐための協力が始まった点に意義がある。

■両国の連絡経路設置で合意
米国はスコット・ベッセント財務長官が、中国は何立峰副首相が代表者となった初回の政府間対話は、AIのリスクとメリットについて意見を交わした。連絡経路の設置は合意したものの、運用開始時期、担当窓口、連絡手順、対象となるAI関連事案の範囲など詳細は明らかにされていない（The White House［2026］; 中華人民共和国商務部［2026］）。しかし、ベッセント氏は21日にメディアに対し、自律的に行動するAIエージェントの制御不能化、政府以外の主体によるサイバー攻撃、生物兵器への悪用などを例示し、主要なリスクについて共通認識を形成するための手順づくりに言及している。
連絡経路には、誤解や誤認によって米中間の対立が激化することを防ぐ役割が期待される。例えば、被害を受けた国が原因を十分に確認しないまま相手国による攻撃と判断し、報復に踏み切る事態が考えられる。事実関係の照会や情報交換は、こうした誤算による衝突のリスクを低減する手段となりうる。両国は11月末までに次回会合を開くと決めた。

■並行する企業の自主対策と監督
米国内でも、AI企業による安全対策を具体化する動きがみられた。９月29日、ドナルド・トランプ大統領は、主要AI企業の経営者と自主的な安全措置に関する合意文書に署名した。参加企業は、AIが人間の意図に反して外部のシステムに侵入することなどを防ぐため、内部管理を強化すると約束した。今回の合意は、開発速度を制限するものではないが、内部管理と外部評価を組み合わせる点で、企業の自主的な安全対策を制度化する動きと位置付けられる。
９月30日には、連邦取引委員会（FTC）が、OpenAIやAnthropicなどのAI企業の技術が消費者にもたらすリスクを調査していると報じられた。企業による自主的な取り組みと、法令に基づく監督が並行して進んでいる。
もっとも、AI関連事案によって被害が生じた場合の責任の所在には不確実性が残る。９月29日付のロイター報道によると、Anthropicは上場に向けた目論見書に、AIエージェントの自律的な行動に伴う賠償請求について、「既存の法律がAIエージェントにどのように適用されるかという問題は未解決であり、我々が重大かつ予測不可能な法的請求にさらされる可能性がある」と記載した（Reuters［2026］）。安全管理を企業に求めるだけでなく、被害が生じた場合の責任をどのように分担するかも制度上の課題となる。

■国家間協力を支える企業と政府の情報共有
AIが人間の意図に反して自律的に動作し、被害をもたらすリスクは、米中双方に共通する。しかし、自国だけが安全確認に時間をかければ、相手国に技術面で先行されるおそれがある。逆に、開発を急げば、安全性の検証が開発速度に追い付かなくなりかねない。これは企業と国家の双方が直面する「競争と安全のジレンマ」である。
今回の米中両国による対応は、このジレンマの下で、開発能力の制限ではなく、AI関連事案の情報共有や危機管理など、合意可能な分野からリスク管理を進める試みとみることができる。
国家間の連絡経路を機能させるには、企業がAIの異常な動作や悪用の兆候を早期に把握し、政府に伝える必要がある。政府には、企業から得た情報を確認し、相手国にどの情報を、どの時点で伝えるかを判断する体制が求められる。あわせて、企業の自主的な安全対策、政府による監督、被害発生時の責任の明確化を、どのように組み合わせるかが注目される。

（注）米国では2026年９月29日の大統領令により、行政府の文書等で「Artificial Intelligence（AI）」に代えて「Super Intelligence（SI）」を用いる方針が示されたが、本稿では「AI」で統一する。

参考文献
・Reuters［2026］“Anthropic says rogue AI agents pose uncertain legal risk for the company,” September 29.
（https://www.reuters.com/legal/litigation/anthropic-says-rogue-ai-agents-pose-uncertain-legal-risk-company-2026-09-29/）
・The White House［2026］“Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic State Visit,” September 25.
（https://www.whitehouse.gov/fact-sheets/2026/09/fact-sheet-president-donald-j-trump-advances-a-fair-and-reciprocal-relationship-with-china-while-hosting-historic-state-visit/）
・中華人民共和国商務部［2026］「商务部美大司负责人解读第八轮中美经贸磋商成果」、９月28日。
（https://www.mofcom.gov.cn/syxwfb/art/2026/art_d9ea01824fc44fd8a29f7dc3f8ca9c72.html）
※URLはすべて2026年10月２日閲覧。

※本資料は、情報提供を目的に作成されたものであり、何らかの取引を誘引することを目的としたものではありません。本資料は、作成日時点で弊社が一般に信頼出来ると思われる資料に基づいて作成されたものですが、情報の正確性・完全性を保証するものではありません。また、情報の内容は、経済情勢等の変化により変更されることがあります。本資料の情報に起因してご閲覧者様及び第三者に損害が発生したとしても執筆者、執筆にあたっての取材先及び弊社は一切責任を負わないものとします。