自治体AIは「導入する」から「使ってよいことを検証する」時代へ
広島発、AIの送信・判断・利用を一貫して検証する新たな仕組み
AIの性能が向上しても、それだけで行政業務に安心して利用できるわけではありません。
「この情報をAIに渡してよいのか」「AIの回答を業務に使ってよいのか」「生成した情報を別の目的に使ってよいのか」。
自治体がAIを本格的に活用するには、こうした判断を担当者の経験や注意だけに依存せず、客観的な条件と証拠に基づいて確認できる仕組みが必要です。
2026年11月5日、株式会社AIアシュアランスと株式会社クラウドシエンは、この課題に取り組む3件の共同PoCと、それらをつなぐ統合PoCを公開しました。
今回の取り組みが目指すのは、AIが正しいと信じる仕組みではなく、AIを使ってよい条件が成立しているかを確かめられる仕組みです。
例えば、自治体の補助金案内では何が変わるのか
住民から補助金について問い合わせがあり、AIが制度を説明する場面を考えます。
AIが流暢な回答を生成しても、参照した制度が古かったり、対象自治体や金額が違っていたりすれば、そのまま案内に利用することはできません。
また、回答が適切でも、問い合わせ情報に含まれる個人情報を許可なく外部AIへ送信してよいわけではありません。
さらに、生成した回答を別の業務へ転用したり、利用期限を過ぎても使い続けたりすれば、新たな問題が生じます。
今回の技術は、これらを別々の注意事項ではなく、一連の業務の中で検証すべき条件として扱います。
具体的には、次の3段階です。
① AIに情報を渡す前に検証する
送信先、利用目的、必要な情報の範囲などを確認し、条件を満たさなければ送信を止める。
② AIの回答を採用する前に検証する
回答を根拠資料や業務条件と照合し、採用・保留・不採用を判定する。根拠が不足する回答は、そのまま業務に採用しない。
③ 生成した情報を使い続けてよいか検証する
元情報の利用条件を引き継ぎ、後続利用、用途変更、期限、管理対象経路での利用終了を確認する。
重要なのは、3つの検証を同じ案件・同じ回答に対して接続したことです。
情報を送る前だけ安全でも、その後の回答や利用方法が管理されなければ、業務全体の信頼性は確保できません。
「安全だと説明する」から「根拠を確かめられる」へ
今回の統合PoCでは、架空の補助金案内を題材に、31件の合成シナリオについて検証記録を公開しました。
2026年10月27日のGitHub Actionsでは、既存PoCの回帰検査を含むPythonテスト1,086件と、Leanによる統合モデルの18定理の検査が成功しています。
公開された31件の記録は、第三者が同じ仕様とプログラムを用いて判定を再計算できます。
ここで重要なのは、単にテストが成功したという結果ではありません。
何を条件として検証したのか、どの証拠を用いたのか、何が未確認なのかまで区別できることです。
AIの内部構造を完全に解明しなくても、定義した業務条件と検証可能な証拠に基づいて、利用を認めるかどうかを判断する。
この考え方が、AIアシュアランスの中心にあります。
なお、今回の成果は合成データと限定した仕様による技術実証であり、実際の自治体での本番運用や、あらゆるAI回答の正確性を保証するものではありません。
自治体ごとに基準が違っても、共通の方法で検証できる
この取り組みには、もう一つ重要な意味があります。
自治体によって業務手順、情報管理の条件、承認権限、適用する制度は異なります。
だからといって、すべての自治体に同一の利用基準を強制することが解決策ではありません。
必要なのは、それぞれの基準を尊重しながら、条件が成立しているかを共通の方法で確かめることです。
今回の技術は、その共通基盤を目指すものです。
将来的には、自治体向けのAIサービスや既存の業務システムに検証機能を組み込み、それぞれの業務要件に合わせて利用条件と証拠を設定する展開が考えられます。
自治体ごとにAIの安全性を一から説明するのではなく、共通の検証方法を再利用する。
これが実現すれば、自治体、AI開発企業、システム開発会社の間で、導入判断と説明責任を支える新たな基盤になり得ます。
今回、デジタル庁のガバメントAI「源内」の公開API仕様に沿った接続口も実装しました。ただし、源内本体との実接続や政府による採用を示すものではなく、今後の接続可能性を検討するための技術成果です。
広島AIプロセスの理念を、実装できる技術へ
広島AIプロセスが掲げる、安全・安心で信頼できるAI。
この理念を社会に広げるには、国際的な原則を示すだけでなく、それぞれの現場で何が検証できるのかを明確にする必要があります。
今回、両社は国際行動規範と技術的な検証条件・証拠・未確認事項を結び付ける対応表も公開しました。
これは広島AIプロセスの公式認証を意味するものではありません。国際的な理念と実際の検証技術を、第三者が確認できる形で結び付ける取り組みです。
株式会社AIアシュアランスは、広島AIアシュアランス協議会の発起・技術協力を担い、製造業・物流から自治体業務へと検証技術の応用を進めています。
今後はクラウドシエンとともに、自治体の実務に必要な承認手順や証拠取得方法を具体化し、既存のAIサービスや業務システムへの適用可能性を検討します。
そして、この成果を共通プロトコル「Hiroshima AI Assurance Protocol（HAAP）」の検討にも還元していきます。
AIを使えるかどうかではなく、使ってよいことを確かめられるか。
AIの社会実装を前進させるために必要なのは、性能の向上だけでなく、その利用判断を支える技術です。
広島から、その仕組みを具体化していきます。
関連資料
共同プレスリリース（2026年11月5日）
自治体AIアシュアランス統合PoC（GitHub）
広島AIプロセス対応マッピング（GitHub）
株式会社AIアシュアランス
コメント