AIの安全を「義務」にするだけで十分か
日本のAI法見直しが問う「検証可能なガバナンス」の必要性
2026年11月11日、日本政府の「制度の在り方検討ワーキンググループ」で、一定以上の性能を持つAIに関する安全確保義務や、命令違反に対する罰則を含む制度の方向性が示された。
内閣府の公表資料では、対象となるAI事業者への安全確保措置の義務付け、国への報告、勧告、命令、罰則が「規定内容（素案）」として整理されている。[1]
これは、日本のAIガバナンスにとって重要な動きである。
ただし、法改正の内容が決定されたわけではない。規制対象となるAIの性能基準、対応すべきリスク、義務を負う事業者の範囲などは、引き続き検討されている。[2]
ここで私たちが提起したいのは、規制の強弱とは別の問題である。
AIの安全確保を法律で義務付けたとして、その義務が実際に守られていることを、どのように確認するのか。
この問いは、日本だけでなく、AIの安全性と社会実装の両立を目指す国際社会に共通する課題でもある。
1. 日本のAI法見直しは何を変えようとしているのか
2025年に成立した「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）は、AIの研究開発・活用の推進と、適正性の確保を重要な柱としている。
現行法第16条は、国による情報収集、権利利益の侵害事案の分析、事業者等への指導・助言などを定めている。[3]
一方、2026年11月11日の内閣府資料では、一定以上の性能を持つAIによる特定のリスクについて、より強制力のある制度的対応を検討する方向が示された。
具体的には、対象事業者への安全確保措置の義務付け、国への報告、勧告、命令、そして命令違反に対する罰則である。[1]
重要なのは、あらゆるAI利用に一律の罰則を導入するという議論ではないことだ。
内閣府資料は、一定以上の性能を持つAIと特定のリスクが重なる領域について、AIに特化した法的規律の必要性が高いと整理している。それ以外の領域については、既存法令やガイドラインによる対応も想定されている。[1][2]
また、事業者への規律を優先的に検討する一方、AIの利用者側については、既存法令やソフトローも活用する方向が示されている。
こうした区別は、AIの活用を不必要に萎縮させず、重大なリスクに対して実効性のある対応を行ううえで重要である。
そして、法的義務の対象と内容を明確にすることと並んで、次に問われるのが、その履行を確認するための技術的・運用的な仕組みである。
2. 安全性の宣言と、安全性の検証は異なる
AI事業者が「安全対策を実施している」と説明することと、その対策が適切に機能していることを確認できることは、同じではない。
例えば、AIが外部システムを操作する場合、事前に安全性評価を実施していても、実行時点の権限、対象データ、周辺環境が変わっている可能性がある。
また、基盤モデルの開発者と、そのモデルを組み込んだサービスの提供者、さらに業務で利用する組織は、それぞれ把握できる情報や制御できる範囲が異なる。
この問題については、内閣府が公表したワーキンググループの委員意見の整理においても、システム全体の検証や制御、サプライチェーン全体での責任分担が論点として挙げられている。[1]
つまり、AIの安全性は、モデル単体の性能評価だけでは完結しない。
どの条件を満たしたときにAIの判断を採用できるのか。その判断が実行される時点でも条件は成立しているのか。そして、実際に何が起きたのか。
こうした一連の過程を確認できることが、AIの社会実装における重要な課題となる。
ここで必要なのは、安全性についての一般的な宣言だけではなく、具体的な条件と証拠に基づいて、確認できた範囲と確認できていない範囲を区別する仕組みである。
3. 日本政府はすでに「事後的な検証可能性」を重視している
実は、検証可能性という考え方は、今回初めて登場したものではない。
2025年12月19日、人工知能戦略本部が決定した「人工知能関連技術の研究開発及び活用の適正性確保に関する指針」は、透明性を確保するための要素として、**「事後的な検証可能性の確保」**を明示している。[4]
さらに、同指針は、リスクベースのアプローチと、研究開発から社会実装までを一体的に捉える「一気通貫でのAIガバナンスの構築」を基本方針に掲げている。
これは重要な政策的基盤である。
日本政府はすでに、AIの安全性について、事後的に検証できることの重要性を認識している。
また、総務省・経済産業省による「AI事業者ガイドライン（第1.2版）」も、2026年3月に公表された。[5]
さらに、AIセーフティ・インスティテュート（AISI）が2026年7月に公表した「AIセーフティに関する評価観点ガイド（第1.20版）」では、従来からの「検証可能性」に加えて、AIエージェントシステムに対応するための新たな評価観点として「観測と制御」が設けられた。[6]
同ガイドでは、外部環境との相互作用や自律的な挙動を評価対象とし、AIエージェントが望ましくない動作を実行しない状態や、外部環境を含めたシステム全体の観測と制御の重要性が示されている。
これらの政府指針や評価ガイドが、そのまま特定の技術方式の採用や形式検証の実施を義務付けているわけではない。
しかし、政策の方向性には共通する課題が見える。
AIの安全性を評価するだけでなく、その評価を、実際のAI判断や行動にどのようにつなげるのか。
日本のAIガバナンスにとって、この課題を具体的な技術と運用へ接続していくことが、次の重要な段階になると考えられる。
4. ルールを「検証可能な条件」に変える
AIの安全確保を実効性のあるものにするためには、ガイドラインや組織の内部規程を整備するだけでなく、それらを実際の業務判断に適用できる形へ具体化する必要がある。
その一つの方法が、AIの判断や実行に関する条件を明確に定義し、必要な証拠と照合することである。
例えば、自治体業務でAIが回答案を生成する場合、回答の流暢さだけでなく、要求された形式、参照資料、根拠との対応などを確認し、条件を満たさない回答を採用しない仕組みが考えられる。
物流や製造現場でAIが設備の動作や業務の実行を判断する場合には、判断時点と実行直前の条件を照合し、条件が成立しなければ実行を保留する仕組みが考えられる。
さらに、実行後には観測結果を照合し、想定された結果と実際の結果が一致したかを確認することも重要になる。
ここでは、形式検証などの技術が重要な役割を果たし得る。
形式検証は、明確に定義された条件や論理的性質について、対象となるモデルがそれを満たすかを数学的に検証するための手法である。
ただし、形式検証だけでAIのあらゆるリスクや現実世界の安全性を完全に証明できるわけではない。
検証する条件の適切さ、入力となる情報の信頼性、実際の環境との整合性、人間による監督なども重要であり、実証的評価や運用上の対応と組み合わせる必要がある。
それでも、定義された条件について、その成立を厳密に確認できることには大きな意味がある。
AIが正しそうな答えを出すことと、その答えを組織が責任を持って採用できることは、別の問題だからである。
なお、今回のAI法見直しで検討されている規制は、一定以上の性能を持つAIがもたらす特定のリスクへの対応を中心としている。
自治体業務や物流などの個別用途が、そのまま新たな法的義務の対象になるわけではない。
一方、AIの判断や行動が定められた条件を満たしているかを確認するという技術的課題は、規制対象の内外を問わず重要である。
5. 広島AIプロセスを、実際に確認できる仕組みへ
2023年のG7広島サミットを契機に始まった「広島AIプロセス」は、安全、安心で信頼できるAIの実現に向け、国際指針や国際行動規範を形成してきた。[7]
その後、OECDによる広島AIプロセス報告枠組みが整備され、2026年5月には中小企業を含む、より広いAI関係者が参加しやすい改訂版が公表された。[8]
この報告枠組みは、事業者がAIに関する取り組みを説明し、比較可能な情報を提供することに貢献する。
一方、個々のAI判断や実行について、採用条件が満たされているかを直接検証する仕組みとは役割が異なる。
両者は対立するものではなく、補完し得る関係にある。
そして、ここには国際的にも重要な論点が存在する。
国や地域によってAIの安全性に関する法制度やガイドラインが異なる中で、その要求事項に対する適合性を、どのように共通の方法で検証できるようにするのか。
例えば、国や地域ごとの異なる要求事項を、それぞれの採用条件、必要な証拠、検証範囲に対応付けることができれば、異なる制度の下でも、共通の検証技術を活用できる可能性がある。
これは、各国の規制を統一するという意味ではない。
それぞれの制度が定める要求事項を尊重しながら、その要求事項に対する検証方法や証拠の扱いを相互運用可能にするということである。
広島発の民間協議会であるHiroshima AI Assurance Council（HAAC）は、この方向性を重視している。
私たちが提案するのは、広島AIプロセスなどのガバナンス原則を、AI判断の採用条件、証拠、検証範囲、責任の所在に結び付け、事後にも再確認できる形で扱うアプローチである。
その実装に向けて、提案中のHiroshima AI Assurance Protocol（HAAP）と、関連する公開PoC・形式検証資料の整備を進めている。[9]
公開しているAssurance Mappingsでは、医薬品コールドチェーン、自治体AI、共同配送などの個別領域について、広島AIプロセスの行動項目と、技術的な条件や証拠、検証範囲との対応付けを試みている。[10]
ただし、個別PoCで確認された条件や機能と、HAAP全体として今後実現すべき相互運用性は区別して扱っている。
これらの取り組みは、政府による認証や特定の法制度への適合を示すものではない。
私たちが目指すのは、制度への適合を宣言することではなく、何をどこまで確認できるのかを、証拠に基づいて明確にすることである。
6. 規制の実効性を高める技術的基盤
AIの安全性に関する法制度は、どのような行為を求め、どのようなリスクを防ぐべきかを定める。
一方、AIアシュアランスは、その要求事項に対して、どのような根拠があり、何をどこまで確認できたかを明確にするための考え方である。
両者は対立するものではなく、補完し合う関係にある。
制度面では、義務の対象と内容を明確にすることが重要となる。
評価面では、対象となるリスクに応じて適切な方法を選択し、評価結果の根拠と限界を明示することが求められる。
実行面では、AIの判断が定められた条件を満たす場合にのみ採用・実行される仕組みや、必要な場合に再検証できる証拠の確保が重要になる。
ただし、すべてのAI出力を無差別に記録したり、すべての判断に形式的な証明を義務付けたりすることが適切とは限らない。
リスクの程度、判断の重要性、実施に伴う負担などに応じて、必要な条件と証拠を適切に定義することが重要である。
また、確認できなかった事項を、確認済みであるかのように扱わないことも欠かせない。
そのような仕組みを整えることで、過度な負担を抑えながら、安全性と説明責任の実効性を高める可能性が開ける。
ここで重要なのは、特定の技術をすべてのAIに適用することではなく、AIの安全性に関する主張を、検証可能な根拠と結び付けるという考え方である。
結論：AIの安全を「約束する時代」から「確認できる時代」へ
日本政府によるAI法見直しの議論は、安全確保に関する義務や法的執行力をどのように設計するかという重要な段階に入っている。
今後、規制対象の範囲、国際的な整合性、既存法令との役割分担、イノベーションへの影響など、慎重な制度設計が不可欠である。
その議論と並行して、私たちはもう一つの問いを深める必要がある。
安全を求めるルールが存在するだけでなく、そのルールが実際のAI判断や行動に反映されていることを、どのように確認するのか。
政府はすでに「事後的な検証可能性」の重要性を示し、AISIも「検証可能性」や「観測と制御」を評価の観点に位置付けている。
次に必要なのは、これらを現実のAI判断、採用条件、実行制御、証拠の確認へと結び付けることである。
そして、広島AIプロセスが提示してきた国際的な理念を、異なる制度や組織の間でも活用できる検証の仕組みへと発展させていくことには、国際的な意義がある。
AIの安全性を「宣言する」だけでなく、「確認できる」社会へ。
それが、日本のAIガバナンスが次に目指すべき方向の一つであり、広島から具体化していきたい提案である。
参考文献・一次資料
[1] 内閣府（2026年11月11日）「制度の在り方検討ワーキンググループ（第2回）資料1-3：前回の議論のまとめ」特に3ページ（リスク・責任分担に関する委員意見）、5～7ページ（制度の方向性・規定内容の素案）。https://www8.cao.go.jp/cstp/ai/ai_expert_wg/seido_2kai/shiryo1_3.pdf
[2] 内閣府（2026年11月11日）「制度の在り方検討ワーキンググループ（第2回）資料1-4：本日の検討事項」規律対象の線引き、事業者・利用者の区分、義務・権限・AISIの役割等。https://www8.cao.go.jp/cstp/ai/ai_expert_wg/seido_2kai/shiryo1_4.pdf
[3] e-Gov法令検索「人工知能関連技術の研究開発及び活用の推進に関する法律」（令和7年法律第53号）特に第7条、第13条、第16条。https://laws.e-gov.go.jp/law/507AC0000000053
[4] 人工知能戦略本部（2025年12月19日決定）「人工知能関連技術の研究開発及び活用の適正性確保に関する指針」特に3ページ「透明性：事後的な検証可能性の確保」、4ページ「リスクベースのアプローチ」「一気通貫でのAIガバナンスの構築」。https://www8.cao.go.jp/cstp/ai/ai_guideline/ai_gl_2025.pdf
[5] 総務省・経済産業省（2026年3月31日）「AI事業者ガイドライン（第1.2版）」https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
[6] AIセーフティ・インスティテュート（2026年7月7日）「AIセーフティに関する評価観点ガイド（第1.20版）概要版」特に10ページ（検証可能性）、11ページ（観測と制御）、22ページ（AIエージェントシステムの評価項目例）。https://aisi.go.jp/assets/pdf/ai_safety_eval_summary_v1.20_ja.pdf
[7] 外務省（2026年7月1日更新）「AI外交」第1節「AIに係る国際ガバナンスの構築」広島AIプロセス、国際指針、国際行動規範の位置付け。https://www.mofa.go.jp/mofaj/ecm/st/pagew_000001_01551.html
[8] OECD（2026年5月28日）“OECD launches streamlined Hiroshima AI Process Reporting Framework to help small- and medium-sized enterprises participate”広島AIプロセス報告枠組みの改訂、国際的な整合性・相互運用性。https://www.oecd.org/en/about/news/press-releases/2026/05/oecd-launches-streamlined-hiroshima-ai-process-reporting-framework-to-help-small-and-medium-sized-enterprises-participate.html
[9] Hiroshima AI Assurance Council（HAAC）公式サイト。HAACおよびHiroshima AI Assurance Protocol（HAAP）の概要。https://hiroshima-ai-assurance.com/
[10] 株式会社AIアシュアランス“Hiroshima AI Process Assurance Mappings”広島AIプロセスの行動項目と、個別PoCの条件・証拠・検証範囲の対応付けに関する公開技術資料。https://github.com/GhostDriftTheory/hiroshima-ai-process-assurance-mappings
本稿は、2026年11月12日時点で公開されている一次資料に基づく、Hiroshima AI Assurance Council（HAAC）の独立した民間の考察・提案です。政府による法改正の決定や、特定の技術方式の公的採用を示すものではありません。
コメント