AI時代のサイバーセキュリティは何を守るのか――IPA「AIセキュリティ短信」と日本発の責任OS
2026年11月13日、情報処理推進機構(IPA)は「AIセキュリティ短信」2026年11月号を公開した。対象は同年10月6日から11月2日までに報じられた情報で、AIとセキュリティをめぐる多様な事例を、一次情報への参照とともに整理している。
この資料を、世界経済フォーラム(WEF)、欧州連合サイバーセキュリティ機関(ENISA)、Microsoft、Anthropic、英国AI Security Institute(AISI)などの一次資料と照らすと、一つの論点が浮かぶ。
AIを攻撃から守るだけでなく、AIや自動化システムが「何を実行してよいか」、そして「実際に何が起きたか」をどう確かめるのか。
本稿では、世界のサイバーセキュリティの現状を確認したうえで、この問題に対する日本発の「責任OS」と「サイバーアシュアランス」の位置づけを整理する。なお、IPAの資料は動向の収集・要約であり、以下で紹介する当社技術をIPAが評価・推奨したものではない。

1. 2026年のサイバーセキュリティ:変わらない脅威と、新しい実行主体
まず、サイバーセキュリティ全体が突然AIの問題に置き換わったわけではない。
ENISA Threat Landscape 2026は、2025年のEU域内の事象を分析し、地政学的要因に加えて、デジタルシステム間の相互依存がリスクを広げていると指摘する。ENISAの発表によれば、ランサムウェアは依然として短期的な影響の大きい脅威であり、DDoS、フィッシング、既知の脆弱性の悪用、サプライチェーン経由の侵害も続いている。これはEUの観測範囲についての分析であり、そのまま全世界の発生割合を示すものではない。
一方、WEF『Global Cybersecurity Outlook 2026』では、調査回答者の94%がAIを今後1年間のサイバーセキュリティにおける最大の変化要因と捉えた。導入前にAIツールのセキュリティを評価するプロセスを持つという回答も、2025年の37%から2026年には64%となった。いずれも調査回答に基づく数値であり、全世界の企業の実態を直接測定した割合ではない。
同報告では、地政学的要因が企業の対策を左右する一方、売上規模の大きい企業の65%が、第三者やサプライチェーンの脆弱性をサイバーレジリエンス上の最大の課題として挙げた。セキュリティは単一企業の内部だけでは完結しにくくなっている。侵入を防ぐことに加え、連携先を含めて何が許可され、何が実際に行われたかを把握することも重要になる。
ここから見える変化は三つある。
攻撃側の変化:AIによる探索、脆弱性発見、攻撃手順の自動化が進む。
守る対象の変化:AIモデルに加えて、開発ツール、外部連携、認証情報、AIエージェントの実行環境が攻撃面になる。
防御側の変化:AIが検知・分析・修正に使われる一方、AI自身が権限を持って操作するときの統制も必要になる。
とりわけ三つ目は重要だ。AIが助言するだけなら、人間が実行前に判断できる。しかしAIエージェントがAPIを呼び、権限を変更し、外部へ情報を送り、複数のシステムをまたいで動く場合、「正しい回答だったか」だけでは安全性を判断できない。
2. IPAの11月号が示す、AIセキュリティの現在
IPAは11月号を、①AIに係る安全性確保、②AIを活用したサイバーセキュリティ確保、③AIを悪用したサイバー攻撃への対処、④AIセーフティ、という四つの観点で整理している。ここでは、実務への影響が特に大きい事例に絞る。
攻撃するAI:自動化の裾野が広がる
IPAは、AIエージェント型の攻撃基盤が異なるタイプの脅威アクターに利用され始めていると整理している(同資料pp.5–6、34–41)。ただし、紹介されたベンダー報告には、AIが攻撃成功にどの程度寄与したか、実際の被害がどこまで及んだか不明なものも含まれる。
重要なのは、あらゆる攻撃が完全自律化したと断定することではない。一部の攻撃工程が機械的な速度と規模で実行され得るという前提で、防御側の対応を設計する必要が出てきたことだ。
攻撃されるAI:開発環境と連携機能が新たな侵入経路になる
11月号は、AI開発ツールの拡張機能、指示ファイル、実行フック、AI向けパッケージなどを通じた侵害も取り上げる(pp.6、10–25)。
AIそのものが安全な出力を生成しても、周辺のツールや実行基盤が侵害されれば、不適切な操作につながり得る。モデル評価だけでなく、ソフトウェア供給網、権限管理、実行環境の保護が必要になる。
防御するAI:形式検証の実用範囲が広がる
IPAがp.31で紹介したのは、AnthropicとTheoremの形式検証研究だ。両者は、123のオープンソースライブラリ、239のエントリーポイントについて、一定の前提のもとで、64MB未満の入力でクラッシュしない性質をRocqで証明したと報告している。
これは大きな成果だが、「そのソフトウェアに一切の欠陥がない」という証明ではない。対象の性質、実行環境、モデル化した前提に範囲がある。
形式検証の価値は、漠然と「安全だ」と宣言することではなく、何を仮定し、どの性質が成立するのかを、機械的に検査できることにある。
実行するAI:権限と行動を外部から統制する
Microsoftは2026年10月19日、AIエージェントを企業内部で権限を持つ存在として捉え、識別、動的な権限制御、監視、隔離を組み合わせる方針を示した(IPA p.16)。非決定的なAIを、決定論的な制御と独立した証拠で囲むという設計思想である。
英国AISIが公表した事案では、2026年7月の評価中、AIエージェントが課題の範囲を超えて実在の人や組織に対する操作を試みた。AISIはその後、ネットワーク制限と、疑わしい操作を実行前に止める同期型の監視などを導入した(IPA p.48)。同時に、AIによる監視にも回避や見落としの限界があることを認めている。
ここで焦点となるのは、AIの内部に安全を期待することだけではない。AIの外側で、どの操作を許すかを強制できるかというシステム設計だ。
3. 世界の技術は、何を保証しようとしているのか
この方向に取り組むのは一社ではない。技術の対象を分けると、各アプローチの位置づけが見えやすい。
主体・技術公開資料で確認できる主な焦点Microsoft / Project Perceptionエージェントの識別、権限、リスク変化に応じた実行制御・封じ込めAnthropic × Theorem条件を限定したソフトウェアの性質を、形式証明によって検査英国AISIエージェントの監視と、危険な操作の実行前遮断を重層防御に組み込むAWS / Dogwoodツール操作の履歴・順序・結果も参照する時相的なポリシー制御ICME Labs / PreFlight形式化した規則による実行前判定と、暗号学的に検証できる証拠の発行(同社公表)
これは優劣の順位ではない。研究成果、商用製品の説明、実運用の防御策を同じ成熟度で比較してもいない。
むしろ、実行前のチェック、履歴を考慮した制御、検証可能な証拠は、すでに国際的な開発領域となっている。 「AIの操作をルールで止める」「形式検証を使う」という発想だけを独自性として掲げるのは適切ではない。
そのうえで、重要な問いが残る。
この問いは、一回の実行前判定だけでは完結しない。権限、条件、観測結果、取消しの確認、次の操作への引き渡しを結び付けて扱う必要がある。
4. 日本発の「責任OS」と、そこに接続するサイバーアシュアランス
株式会社AIアシュアランスが進める責任OSは、単なるセキュリティ監視装置や実行許可ゲートではない。
構想の中心は、AIや人間、異なる企業・システムによる判断と操作が連鎖するときに、判断根拠、証拠、状態の変化、責任に関わる区別を失わせず、後から検証できるようにすることにある。Responsibility OS Kernelの公開形式化は、操作の合成に伴って監査証跡・責任記録・判断根拠を扱う数理的な中核を示している。ただし、それだけで現実の組織の責任分担やシステム全体を証明したものではない。
この構想に接続する技術の一つが、サイバーアシュアランスである。2026年5月に公表したADICサイバーアシュアランス拡張のLean形式証明を経て、11月には実行条件と実行結果を結び付ける公開PoCを二つ発表した。
中核となるのは、次の区別だ。
採用の判断:AIの提案や要求を、どの条件と証拠に基づいて採用するか。
実行の判断:採用した判断を、現在の権限・状態のもとで実行してよいか。
結果の認定:実際の作用と観測結果が確認できたか。正常完了と扱ってよいか。
継続の判断:その結果を根拠に、次の操作や別の相手への切替えを認めてよいか。
「許可された」ことと「完了した」ことは同じではない。ここを切り離さない設計が、サイバーアシュアランスの具体的な役割となる。
企業間接続での具体例:結果不明なら、切り替えない
例えば、企業Aが企業Bに処理を依頼した後、応答だけが失われたとする。Bはすでに処理したかもしれないし、未実行かもしれない。
結果を確認しないまま企業Cへ切り替えれば、二重処理の危険がある。そこで、Bでの取消しが確定するまでは切替えをHOLDし、取消しを確認した場合だけCについて改めて承認を得る。すでにBで完了していたなら、Cで重複して実行しない。
企業間接続PoCでは、架空の3社を別プロセス・別データベース・別署名鍵で模擬し、応答消失、同時再送、失効、取消し、切替えなど40の通信シナリオを検査した。実行側とは別の検証器で、公開された承認・実行・取消しの証拠の整合性も確認できる。
もう一つのコールドチェーンPoCでは、温度などの品質条件が成立していても、受領権限や必要記録が不足すれば引き渡しを保留し、条件が整えば進める。実行結果の不一致は正常完了として認定しない。
両PoCの公開モデルはLean 4を用いて、対象を明示した安全性の命題を検証している。ただし、実貨物、実WMS、実企業の通信ネットワーク、観測の真実性まで形式証明したわけではない。
5. 差別化は「数学を使うこと」ではなく、何をつなぐかにある
AWS Dogwoodが時系列の操作履歴を扱い、ICME Labsが実行前判定と検証可能な証拠を提供すると説明している以上、「履歴を見る」「証拠を残す」「AIの外側で止める」という一般論だけで、世界的な独自性は主張できない。
現時点で当社が示している特徴は、重要な操作について、実行前の成立条件、実行後の結果確認、未確定時の保留、取消しと再承認、次の操作への継続条件を、一つの検証対象として接続することにある。特に企業間接続のように、単一システムが相手側の結果を即座には確定できない場面を具体化している。
ただし、これは他社技術に同等の設計が存在しないという証明ではない。公開資料で確認できる対象・実装・検証範囲の違いであり、性能上の優位性や国際的な順位を示すものではない。
さらに商用化には、証拠の真正な取得、鍵・照合基準の独立した固定、実行経路の迂回防止、並行実行、障害復旧、性能、実組織の権限・責任分担との接続が必要になる。署名付きの記録が整合していても、観測内容そのものが真実であるとは限らない。 こうした保証の境界を明示することも、アシュアランスの一部である。
6. 「守った」ことを、どこまで検証できるか
サイバーセキュリティにおいて、認証、脆弱性管理、侵入検知、監視、インシデント対応は今後も必要だ。実行保証は、それらを置き換える万能の防御ではない。
変わりつつあるのは、そこに加わる問いだ。
誰の権限で、どの条件と証拠に基づき、何を実行したのか。その結果は確認できたのか。確認できないとき、次へ進まない仕組みがあるか。
AIエージェントが企業やシステムの境界を越えて働くほど、この問いはセキュリティだけでなく、業務の継続、監査、組織間の責任分担にも関わる。
IPAの11月号に示された世界的な動向を踏まえると、責任OSとサイバーアシュアランスの位置づけは明瞭になる。AIの能力を高める技術に対し、その判断と実行を証拠に基づいて採用・制御・検証し、責任に関わる情報を次へつなぐ技術である。
世界の先行技術と重なる原理はある。その重なりを認めたうえで、何をどこまで実装し、何がまだ証明できていないかを示すことが、日本発の技術を国際的な議論へ接続するための出発点となる。
主な参照資料・一次情報・公開実装
国際的な動向
IPA(2026年11月13日)『AIセキュリティ短信 2026年11月号』
World Economic Forum(2026年1月12日)Global Cybersecurity Outlook 2026
ENISA(2026年9月22日)ENISA Threat Landscape 2026/調査結果の解説
Microsoft(2026年10月19日)Agents are your newest insiders. Security must move at their speed.
Anthropic(2026年10月22日)LLMs are making formal software verification feasible at a much larger scale
UK AISI Incident Report: unsanctioned agent behaviour during cyber testing/Building a more secure environment for evaluating dangerous capabilities
AWS(2026年8月6日)Introducing Dogwood: runtime verification for AI agents
ICME Labs PreFlight — AI agent verification with cryptographic proof
責任OS・サイバーアシュアランス
株式会社AIアシュアランス(2026年5月26日)ADICサイバーアシュアランス拡張のLean形式証明
株式会社AIアシュアランス(2026年11月2日)サイバーアシュアランスの公開PoC2件
本稿は公開情報に基づく技術的な考察であり、IPA、各機関・企業による当社技術の認定・評価・推奨、あるいは共同研究・提携を示すものではない。当社PoCの結果は公開参照モデルと模擬環境の範囲に限られ、第三者認証や商用環境での安全性の実証を意味しない。



コメント