AIリスク、安保と切り離せず

　加速する人工知能（AI）の進歩は安全保障問題と密接に関連し、そのリスクを管理するための規制とイノベーションの推進、活用のバランスが極めて難しい時代になった。米トランプ政権は同国のAI開発新興企業アンソロピックが開発した最先端AI「ミュトス」について安保上の理由で利用を制限した。日本の政府や金融機関が対応に追われるなど国内への影響も無視できない。AIに対する規制や振興の在り方について提言するデジタル政策フォーラム代表幹事の谷脇康彦・元総務審議官（インターネットイニシアティブ＜IIJ＞社長）にAIの進歩に伴うリスク管理や国際的な規制ルールの在り方、日本が取り組むべきAI開発やインフラ整備について聞いた（共著　榎浩規、亀田裕子、上原博人）。

環境問題に次ぐリスク

－－ミュトスの登場以来、AIのリスクがクローズアップされている

　最新の世界経済フォーラムの報告書「グローバルリスク・レポート2026」において、世界が抱えるリスクの中でAIのリスクは現時点で第8位であり、10年後には第5位まで上がるとされている。第4位には誤情報・偽情報も挙あげられており、第1位から第3位を占める環境問題に次ぐ深刻なリスクとして認識されている。これは、AIが安全保障問題と切り離せないようになってきていることも大きな要因の一つだろう。

インタビューに答える谷脇康彦氏【7月2日、東京都千代田区のIIJ本社】

　ミュトスの登場によって各種システムのリスクレベルが大きく上がり、これまでのセキュリティー対策が無効化したとの指摘もあるが、それほど単純ではない。現時点で言えるのは、ネットワークやシステムの脆弱（ぜいじゃく）性対策の「量、速さ、深さ」がこれまでと比較できないレベルになり、見過ごされてきた脆弱性が大量に発見された。その対応のためのパッチの適用を急ぐとともに、攻撃側の行動を理解するための脅威分析の深化が必要になるだろう。

　こうした対策を人手だけで行うことは難しく、防御側もAIを活用した自動化などの手だてを積極的に講じていく必要がある。ただし、パッチの適用によって現行システムの機能に影響が出ないか確認する時間も求められるため、脆弱性のある箇所への接続を拒否する仮想パッチの適用など、作業が複雑化していく。こうした作業をユーザーが自分で行うだけでなく、外部の専門事業者に委託するアウトソーシングも増加していくだろう。

有事平時、軍民の境界あいまいに

－－しかし米国は突然、ミュトスの利用に制限をかけた

　AIについて民生用と軍事用の境界線が不明確になっている。2022年2月のロシアによるウクライナ侵攻の際には、重要インフラに対するサイバー攻撃に加え、大量の偽情報やディープフェイク映像による認知戦が注目された。24年のイスラエルのパレスチナ自治区ガザへの侵攻では、攻撃対象となる標的にAIを使って点数をつけ、優先順位づけをして攻撃する非人道的な行為が行われたと報道されている。

　それが今年の米国によるイラン攻撃では、標的の捕捉・攻撃・戦果の判定に民生用AIであるアンソロピックのクロードを活用し、1日で1000件を超える標的を選定して攻撃できるようにした。残念なことだが、AIは軍事面で最も活用されており、ドローン技術などとともに飛躍的な進歩を遂げている。AIのあり方を考えるとき、典型的なデュアルユース（軍民両用）であることを強く意識する必要があり、安全保障問題と切り離せない。

　民間（非軍事）と軍事の違いが曖昧な「ハイブリッド戦争」だけでなく、有事と平時の境目も不明確な「グレーゾーン事態」も日常的になっている。世界各地で、通信、電力、鉄道など民間の重要インフラに対して国家の関与が強く疑われるサイバー攻撃が恒常的に行われている。経済社会活動といった非軍事の分野も国家安全保障の対象になる。サイバー攻撃によって都市機能をまひさせた上で軍事行動を行う事案も散見されるようになっている。

曖昧化する有事と平時、民間と軍事（出所）谷脇康彦氏作成・提供

揺さぶられている前提

－－それにしても米国の輸出規制には唐突な印象がある

　米トランプ政権が輸出管理の対象としてミュトスの利用に制限をかけたことには、明確な法的根拠がない。安全保障を名目にして根拠を示すことなく世界貿易機関（WTO）の越境取引ルールの適用外とするのは現行制度において可能だが、各国が同様の手口を乱用すればWTOのルールが崩壊してしまう。

　しかし今回のように、日本を含め米国の同盟国での利用も規制対象になるという現実に向き合う必要がある。日常業務で利用しているAIが外国政府の方針で突然使えなくなるリスクを意識し、改めて「デジタル主権 」（注）とは何か、真剣に考える必要がある。国内の議論は経済安全保障を前提にしており、それは日米安全保障条約が100％機能するという前提だが、それだけで本当によいのか、前提が揺さぶられている。

＊注：国のデジタルインフラ、データ及びデジタル関連技術について、外国に依存することなく主体的に利活用できること。

大量の「蒸留攻撃」がきっかけ

－－具体的に何を懸念したのか、トランプ政権はAI輸出に積極的だったはず

　実は今年2月ごろにアンソロピックのクロードに対して大量の「蒸留攻撃」が仕掛けられたことが今回の規制のきっかけと言われている。蒸留攻撃とは大量の質問を投げかけ回答を得て、その質問と回答に関する大量のデータセットからAIのモデル構造を分析、解き明かそうとすることだ。最先端のAIの開発は熾烈（しれつ）な国際競争が続いており、蒸留攻撃によって米国のAIモデルが優位性を失う事態を回避しようと考えたのだろう。

　こうした蒸留攻撃を含め「AIの進化に対応したサイバーセキュリティー対策を抜本的かつ即時に強化すべき」という注意喚起の文書を米、英、加、豪、ニュージーランドの5カ国の政府のサイバーセキュリティー専門組織で構成する「ファイブアイズ（Five Eyes）」が公表している。彼らは秘密裏に行動することが多く、一般向けの文書の公表は異例。彼らの危機感の表れだと言える。

覇権争い絡み、議論は平行線

－－リスクは明確なのに国際ルール作りの議論は進んでいない？

　国連では10年以上、サイバー攻撃に関する国際法上のルールについて専門家会合を開催して議論しているが、旧西側諸国と中露の対立が続き、結論は出ていない。どこまでサイバー攻撃に対して物理的な反撃を自衛権の行使として行うことが許容されるのか、国家間の覇権争いも絡み、議論は平行線にある。そこにAIも加わるわけで、議論の行方はまったく読むことができない。

　AIを戦闘行為に使うことについて過去にも国際合意が試みられたが、人権、民主主義、法の支配と整合しない行為を禁止事項として列挙するネガティブリスト方式の国際合意から始めることを期待している。

　中国やロシアはサイバー空間を巡るルールについて各国政府のみが投票権をもつ国連組織である国際電気通信連合（ITU）で決めようと主張する。グローバルサウスの多くの国もこの考え方に賛同する。しかし、サイバー空間は社会のあらゆる部分に遍在するものであり、政府だけでなく、学者(アカデミア)、技術者（テックコミュニティー）、そして市民社会を含むマルチステークホルダーが議論に参加できる環境を整える必要がある。こうしたアプローチはインターネットガバナンスを巡る議論でも長年にわたって行われてきている。

EU規制、必ずしも成功していない

－－規制ばかりではイノベーションを阻害するのでは？

　電気通信の世界では、電気通信事業法という法律が施行された当時は規制色が強かったが、1990年代後半からイノベーションの進展と規制緩和が共同歩調で進んだ。AIを含むデジタル技術を巡る規制についても、ガードレール的に利用者保護を目的とする最小限の規制はどうあるべきかを考えるべきだろう。

　欧州連合（EU）では企業にネット上の個人情報保護を義務づけた「一般データ保護規則（GDPR）」に加え、米巨大IT企業のプラットフォーマーにネット上の有害コンテンツや違法コンテンツ対策を求めたデジタルサービス法（DSA）、これらのプラットフォーマーの市場支配力の乱用を防止するデジタル市場法（DMA）を施行した。さらにAIのリスクを4段階に分けて規制するAI法も制定したが、全面施行は2027年まで遅れている。

　EUはこれらの規制を通じて米国の巨大プラットフォーマーの行為を制限しようとしたが、必ずしも成功していない。逆に、2024年9月の「ドラギ・レポート」（マリオ・ドラギ欧州中央銀行・前総裁が取りまとめ）などを契機として、規制強化が欧州市民に過度の負担を課すこととなり、欧州発のIT企業が育っていないのではないかという議論がEU内で巻き起こっている。今後は、デジタル主権という考え方の下で規制の簡素化や産業育成型の政策を推進する方向に進んでいくだろう。

　日本で2025年9月に施行されたAI推進法は強制力を伴わない基本法ともいえるソフトローのアプローチであり、EUのAI法のように、AIの開発者や利用者に対する直罰規定は設けられていない。むしろAIの開発や利活用の振興を目的としており、それらに関わる課題は個人情報保護法や独占禁止法といった既存の法体系の運用で対応するアプローチを採っている。こうした規制と振興のバランスは引き続き重要だろう。

LLMとSLM両立は有力な選択肢

－－デジタル主権を想定して日本も国産AIの開発に乗り出した

　デジタル主権という考え方について、日本ではまだ議論が緒についたばかりであり、デジタル政策フォーラムとしても、総合的で俯瞰（ふかん）的な議論の必要性を訴えてきている。ソブリン（自国が主権を持って独立運用・管理）AIの開発は確かに重要だが、米巨大IT企業と同じような大規模言語モデル（LLM）を作り出すことは困難だろう。国産の検索エンジンを開発すべきだという過去の議論に類似しているようにも感じる。

　日本の狙いとしては、むしろ小規模言語モデル（SLM）を分散型で開発し、これらをネットワークで接続して仮想的に一つのAIとして機能したり、中央のセンターAIで学習し、地方に分散したAIで類推したりするといった役割分担を持たせることで効率的で実用的なAI活用ができると考えている。

　デジタル技術の分野では集中と分散の歴史がある。コンピューターの歴史が典型的だろう。数十年前の大型コンピューター（メインフレーム）はインテリジェンス（知能）が集中していたが、パソコンの普及でインテリジェンスが分散した。その後のクラウドサービスの普及で再度集中が起こり、これに工場などの現場近くに情報を処理するための基盤を設ける「エッジコンピューティング」の普及で再分散している。

　集中と分散は二項対立ではなく、技術の進展に応じてベストミックスの比重が変わっていく。AIもそのような歴史と同じ道筋をたどるのだとすれば、LLMとSLMの両立を考えるというのは有力な選択肢ではないか。

冗長性を確保、リスクを低減

－－分散型のメリットは

　米国によるイラン攻撃に対するイラン側の報復攻撃では、湾岸諸国にある民間のデータセンター（DC）がドローンなどで攻撃され被害を受け、クラウドサービスの提供が停止に追い込まれた。AI時代の紛争では、DCも重要インフラとして攻撃対象になることが明確になった。ハイパースケール型の大型DCに機能を集中させていた場合、そこが攻撃されたり、サイバー攻撃でまひしたりすると経済社会に大きな悪影響が出る。分散型のAIモデルに対応し、大型DCに加えて中小規模のDCを分散させることで冗長性（リダンダンシー＝余分や重複がある状態）を確保し、リスクを低減できるだろう。

　また、政府のAI基本計画には分散型の電力網と通信網を連動させるワット・ビット連携の推進についても盛り込まれている。日本のDCの約9割は東京圏と大阪圏に集中しており、分散することで冗長性を確保するともに、再生可能エネルギーの活用、電力の送配電網へのAI導入なども同時に推進することが期待される。AIは幾何級数的に進化していくが、その制約になり得るのが電力の供給制約。ワット・ビット連携はこれを乗り越える一つの打ち手だと言えるだろう。

　ワット・ビット連携は、中国では「算電協同」として展開している。また、進んだ東部の大都市部で生成される膨大なデータを再生可能エネルギーが豊富な西部のDCに送り処理する「東数西算」という戦略を進めている。米国のAI行動計画（2025年7月）でも、AI革新のペースにあった電力グリッドの整備を進めるとされ、欧州も「技術主権パッケージ」(2026年6月)においてDCと電力網の効率的な統合を進める方針が明らかにされている。

ワット・ビット連携を踏まえたDC配置の変化
（出所）谷脇康彦氏作成・提供を基に作成

複数SLMを統合・制御する担い手は？

－－安全保障面だけがDC分散型のメリットではないはず

　ワット・ビット連携によって冗長性が確保され、安全保障面での対策になるのは事実だが、それだけではない。電力負荷の偏在解消にも貢献し、AIの本格導入に向けた電力の供給制約という課題の克服に役立つ。また、AIを実装した自動運転システムや遠隔手術システムにおいて、膨大なデータを伝送する際に遅延は許されない。手元で推論する分散型AIによって伝送遅延を最小化できるだろう。

－－分散型に課題はないのか

　複数のSLMを統合・制御し、一つのワークフローとして機能させるオーケストレーション（全体の統合的な管理・制御）の担い手は誰かという問題は残る。こうした統合・制御には高い技術、システムが必要になると思う。オーケストレーションの担い手が誕生する環境づくりが必要になるだろう。

－－デジタル政策フォーラムとしての今後の取り組みは

　フォーラムではAIについて過去3回（2024年7月、同年12月、26年3月）、AIガバナンスに関する提言をまとめ、公表してきた。AIの進化にともなってAIガバナンスを巡る論点はますます拡大しており、2026年末をめどに第4弾の提言をまとめることとしている。AIをはじめデジタル政策を巡るさまざまな議論を担う場として、今後も積極的に活動していきたいと考えている。

〔略歴〕
谷脇康彦（たにわき・やすひこ）氏
1984年4月郵政省（現総務省）入省。2013年6月内閣サイバーセキュリティセンター（現・国家サイバー統括室）副センター長。総務省政策統括官（情報セキュリティ担当）などを経て19年12月同総務審議官。21年9月のデジタル政策フォーラム設立時より代表幹事。25年4月よりIIJ社長。

《おさらい》

・人工知能（AI）は安全保障と切り離せないデュアルユース技術になり、サイバー攻撃や認知戦、軍事利用の拡大でリスク管理の重要性が高まっている。
 
・米国による最先端AIの利用規制は、AI覇権競争や蒸留攻撃への警戒が背景にある。日本もデジタル主権について再考せざるを得ない。
 
・規制とイノベーション推進のバランスが極めて重要だ。日本が欧州連合（EU）のような強いAI規制を導入していないことは評価できるが、大規模な国産AI開発に乗り出している点には疑問もある。
 
・日本はLLM（大規模言語モデル）だけでなくSLM（小規模言語モデル）を活用した分散型AIとデータセンター整備、ワット・ビット連携を進め、冗長性（リダンダンシー＝余分や重複がある状態）確保や電力・安全保障課題への対応を目指すべきだ。