AIの提案は、なぜそのまま実行できないのか――2つの公開PoCで示した「検証可能な実行保証」
AIが正しい答えを出すことと、その答えに従って現実の操作を実行してよいことは、同じではありません。
AIが物流の配送先を提案したとしても、受領する権限がなければ荷物を引き渡すことはできません。企業間でシステムが連携する場合も、相手から応答がないからといって、処理が行われていないとは限りません。
AIの判断が現実の業務に接続されるとき、必要になるのは、提案内容の評価だけではありません。
何を実行してよいのか。実際に何が起きたのか。その結果を踏まえて、次に何をしてよいのか。
この一連の判断と実行を、後から第三者が検証できることが重要になります。
株式会社AIアシュアランスは、2026年11月2日、こうした課題に対応する「サイバーアシュアランス」の公開PoC（概念実証）2件を発表しました。
AIセーフティには「実行」の問題がある
AIセーフティでは、モデルの安全性、誤情報、バイアス、不適切な出力など、さまざまな問題が議論されています。
これらは重要ですが、AIが業務システムや外部環境を操作する段階では、別の問題が生じます。
例えば、AIが適切な配送計画を作成したとしても、実際に荷物を引き渡す際には、品質条件、受領権限、必要な証拠、直前の状態などを確認しなければなりません。
さらに、一度許可された操作であっても、実行直前に条件が変わっている可能性があります。
実行後にも問題は残ります。操作を送信したことと、相手先で処理されたことは別だからです。
このため、実行前の許可判定だけでなく、実行結果を確認し、次の操作へ進めるかを判断する仕組みが必要になります。
当社が開発するサイバーアシュアランスは、この部分を対象としています。
「許可する技術」から「実行と結果を検証する技術」へ
サイバーアシュアランスの中核にあるのは、形式検証、証拠の再検証、実行時の強制制御を組み合わせる考え方です。
形式検証とは、定められた条件の下で、システムが満たすべき性質を数学的・論理的に検査する技術です。
例えば、必要な権限がなければ操作を許可しないことや、特定の状態で同じ処理が重複して実行されないことなどを、形式的なモデルの上で検証します。
ただし、数学的に正しい判定規則があっても、実際のシステムがそれに従うとは限りません。
そこで、判定規則を実行時の制御につなげ、さらに実行結果を証拠と照合できるようにします。
重要なのは、正しく判断すること、判断に従って動くこと、動いた結果を確かめられることを、一体として扱う点です。
今回の2件のPoCでは、この考え方を異なる物流上の課題に適用しました。
PoC① コールドチェーン：止めるだけでなく、進められることも確かめる
最初のPoCは、温度管理が必要な物流における引き渡し操作を対象としています。
品質が正常であっても、受領権限や必要な記録が不足していれば、引き渡しを実行できない場合があります。
一方で、不足していた記録が補完され、条件が成立したにもかかわらず、操作を止め続けることも適切ではありません。
今回の公開モデルでは、条件不足の要求を保留し、条件がそろえば模擬引き渡しを進めます。また、同じ状態を維持した操作列での重複作用を防ぎ、実行結果に不一致がある場合は正常完了として扱わない仕組みを検証しています。
公開モデルについては、Lean 4による37命題の形式検証と、768組の実装照合を実施しました。
このPoCが示しているのは、安全性とは、何でも止めることではないという点です。
進めてはいけない操作を止め、条件が整った操作は進める。その判断と結果を確認できることが、実際の業務には求められます。
PoC② 企業間接続：相手から返事がないとき、どうするか
2つ目のPoCは、企業間でシステムが連携する際の実行保証を対象としています。
例えば、企業Aが企業Bに処理を依頼したものの、通信障害によって応答が届かなかったとします。
この場合、企業Bが処理を完了したのか、何も実行していないのかは、応答がないという事実だけでは判断できません。
そこで、企業Aが別の企業Cに同じ処理を依頼すると、BとCの両方で処理が実行される可能性があります。
今回のPoCでは、架空の3社が、それぞれ異なるプロセス・データベース・署名鍵を使って通信する環境を構築しました。
元の接続先での結果が不明な場合は切替えを保留し、取消しが確定した場合に限って、新しい接続先での承認と実行へ進みます。
また、ある企業との接続に問題が生じても、条件を満たしている無関係な操作まで一律に停止させない仕組みも検証しています。
実際のプロセス間HTTP通信を使った40シナリオを検査し、実行側とは別の検証器による証拠の再検査にも対応しました。Lean 4による抽象モデルの形式検証を含む公開CIも成功しています。
相手の結果が確認できないなら、次の操作へ進まない。しかし、無関係な業務まで止めない。
企業ごとにシステムや管理主体が異なる環境では、こうした制御が重要になります。
このPoCは、当社と株式会社オンザリンクスが以前に共同発表した「検証可能なフィジカルインターネット」構想に関連するものですが、今回のPoC自体は当社が独自に開発・公開したものです。
なぜ、公開コードと形式証明まで示すのか
AIセーフティやAIガバナンスの分野では、安全性や信頼性に関する原則、ガイドライン、評価手法が整備されつつあります。
一方で、技術が安全性を主張する場合、何を根拠に、どの範囲まで確かめられるのかも重要です。
今回、当社が公開したのは、単なる実行結果の説明ではありません。
実際に操作できる参照モデル、Lean 4による形式証明、実装との照合、通信実験の結果、保存証拠を再検査するためのコードと手順です。
これにより、第三者も公開されたモデルや記録を検査できます。
もちろん、形式証明は対象となるモデルと前提条件の範囲で成立するものです。署名や記録の整合性を確認できることも、現実世界で起きた事実の真実性を自動的に保証するものではありません。
今回のPoCは実物流や実企業ネットワークの安全性を証明したものではなく、商用環境への導入には別途検証が必要です。
それでも、保証できる範囲と、まだ保証していない範囲を明らかにし、検証可能な形で技術を公開することには意味があります。
当社が目指しているのは、安全性を宣言するだけでなく、その根拠を確かめられるAIガバナンスです。
AIガバナンスを、現実の操作につなぐ基盤へ
2026年には、総務省のAIセキュリティ対策ガイドラインや、AISIのAIセーフティ評価観点などにおいても、AIエージェントの実行前検証、権限管理、観測と制御が重要な論点となっています。
当社の技術は、こうした課題に対して、実際の操作をどの条件で進め、どの条件で止め、その結果をどう検証するかという側面から取り組むものです。
技術開発は2025年の国内基礎出願にさかのぼり、今回の発表に関連する技術群について5件のPCT国際出願を行っています。また、2026年5月に公表したADICサイバーアシュアランス拡張の形式証明を、具体的な操作へと展開しています。
今後は、物流・倉庫システム、企業間データ連携、通信・ネットワーク、クラウド・AI基盤など、既存のシステムとの接続検証を進めることを目指します。
AIの能力が高まるほど、AIに任せることのできる業務の範囲も広がります。
しかし、その範囲を広げるために必要なのは、AIの性能向上だけではありません。
実行してよい条件を明らかにし、条件が満たされなければ止め、実行後の結果を確認し、次の操作へ進める根拠を検証できること。
今回公開した2件のPoCは、その仕組みを具体的な業務操作として示すための一歩です。
株式会社AIアシュアランスは、国際的なAIガバナンスの理念を産業の実装につなぎ、重要な意思決定と実行を第三者が検証できる、共通の信頼基盤の構築を目指していきます。
関連リンク
コメント