top of page
All Posts


レベル100のAIが「こんらん」したら、誰が止めるのか?——世界のAIセーフティが向かう「実行の検証」
AIとセキュリティは、ゲンガーの「あやしいひかり」合戦なのかもしれません。 AI研究者の今井翔太氏が、AIとサイバーセキュリティの関係を「ポケモンバトル」に例えた興味深い投稿をされていました。 https://x.com/ImAI_Eruel/status/2118616087629910416 攻撃側も防御側もAIを使う。強いAIには、さらに強いAIで対抗する。 相手が強くなれば、こちらもレベルを上げ続けなければならない。確かに、現在のAIとサイバーセキュリティの関係をよく表した例えです。 ただ、私たちはこの投稿を見て、別の疑問を持ちました。 「そもそも、味方のポケモンが『こんらん』したら、誰が止めるのか?」 実は、この素朴な疑問こそ、世界のAIセーフティ研究が向き合い始めている重要な技術課題につながっています。 ▼関連するプレスリリース https://prtimes.jp/main/html/rd/p/000000011.000182721.html レベル100のAIでも「こんらん」はする ポケモンには、ゲンガーなどが使う「あやしいひかり
kanna qed
15時間読了時間: 7分


自治体AIの実証が示した、医療・金融にも共通する「AIを使ってよい条件」の検証
AIの精度評価だけでは残る課題を、送信前・回答採用前・後続利用の一貫した検証へ。広島発の技術PoCが示す、業界横断の共通基盤への道筋。 医療機関がAIで診療記録を要約する。金融機関がAIで審査資料を作る。自治体がAIで住民向けの制度案内を作成する。 AIの回答が正確であっても、それだけでは業務に使えるとは限らない。患者情報を外部AIへ渡すことが許されているか。回答の根拠はその案件に適合しているか。生成した情報を別の業務で再利用してよいか。「正しい回答か」と「使ってよい回答か」は、別の問題だからだ。 2026年11月5日、株式会社クラウドシエンと株式会社AIアシュアランスは、自治体AIの「送信前・回答採用前・後続利用」を対象とする3件の技術PoCと、それらを接続した統合PoCを公表した。[12] 今回の成果の重要性は、自治体向けに一つの安全対策を作ったことだけではない。業界によって異なる利用条件を、証拠に照らして検証し、条件を満たさない処理を止める――その共通構造を、一連の業務として実装したことにある。 ▼関連のプレスリリース https://pr
kanna qed
13false22 GMT+0000 (Coordinated Universal Time)読了時間: 9分


自治体AIは「導入する」から「使ってよいことを検証する」時代へ
広島発、AIの送信・判断・利用を一貫して検証する新たな仕組み AIの性能が向上しても、それだけで行政業務に安心して利用できるわけではありません。 「この情報をAIに渡してよいのか」「AIの回答を業務に使ってよいのか」「生成した情報を別の目的に使ってよいのか」。 自治体がAIを本格的に活用するには、こうした判断を担当者の経験や注意だけに依存せず、客観的な条件と証拠に基づいて確認できる仕組みが必要です。 2026年11月5日、株式会社AIアシュアランスと株式会社クラウドシエンは、この課題に取り組む3件の共同PoCと、それらをつなぐ統合PoCを公開しました。 今回の取り組みが目指すのは、AIが正しいと信じる仕組みではなく、AIを使ってよい条件が成立しているかを確かめられる仕組みです。 ▼関連のプレスリリースhttps://www.sankei.com/pressrelease/prtimes/ZIHDS5AFBJPZ5NXNADZ3VQIR5I/ 例えば、自治体の補助金案内では何が変わるのか 住民から補助金について問い合わせがあり、AIが制度を説明する
kanna qed
53false25 GMT+0000 (Coordinated Universal Time)読了時間: 5分


境界型・検知型セキュリティの限界――AIエージェントに必要な「実行前の証拠検証」
AIエージェントが正しい権限を持ち、正規のAPIを呼び出そうとしている。それでも、その操作を今、実行してよいとは限らない。 例えば物流企業AのAIが、企業Bへの引き渡しに関する通知を送るとします。通信相手の認証は成功し、APIの利用権限も有効です。しかし、B側の受領条件が変更されていたらどうでしょうか。直前の通知が実行済みなのか不明なまま、別の企業Cへ切り替えようとしていたらどうでしょうか。 通信が「正規」であることと、その操作が業務上「実行可能」であることは別問題です。 この区別は、AIが回答するだけでなく、送金、公開、削除、設備操作、企業間システムの連携などを自律的に実行する時代に重要になります。 本稿では、NIST、英国NCSC、OWASP、日本のAISIの一次資料と、AgentDojo、CaMeL、AgentSpecなどの原著研究を読み解きながら、**境界型・検知型セキュリティを補完する「実行前の証拠検証」**を考えます。最後に、当社が公開した2つのサイバーアシュアランスPoCについて、確認できたことと確認できていないことを分けて紹介しま
kanna qed
00false01 GMT+0000 (Coordinated Universal Time)読了時間: 21分
bottom of page