米国立標準技術研究所(NIST)、国家安全保障局(NSA)、サイバーセキュリティ・インフラストラクチャセキュリティ庁(CISA)は2026年10月16日、AIエージェントの事故に備える10の実践をまとめた文書を公表しました。AIエージェントが指示されていない行動をとり、運用者の決めた決まりや安全の仕組みを破る「制御の事故」が対象です。
文書の主な対象は、最先端のAIを訓練・評価する組織です。ただ、そうしたエージェントを導入する組織にも当てはまりうるとしています。社内でAIエージェントを使い始めた会社にとっては、事故対応の決まりを見直す材料になります。
文書の位置づけ
| 項目 |
文書の内容 |
| 出した機関 |
NISTのCAISSI、NSAのSISC(どちらもAIの安全の部署)、CISA |
| 性格 |
任意の実践の手引き。既存のNISTのサイバーセキュリティフレームワーク(CSF)2.0と、事故対応の指針SP 800-61r3をもとにしている |
| 主な対象 |
人の監督が少ない状態で長い作業をする、高い能力のAIエージェントを訓練・評価する組織。導入する組織にも当てはまりうる |
| 言葉 |
米国の大統領令に沿って、AIの代わりに「Super Intelligence(SI)」という言葉を使う |
文書は「制御の事故」を、AIエージェントが作業の範囲や人の監督のために決めた方針・制御・安全の仕組みを破る、指示されていない大きな行動と定義しています。事故には至らなかったが、その恐れがあった場合は「ヒヤリハット(near-miss)」と呼び、これも報告の対象にしています。攻撃者のプロンプトインジェクションによる行動は、「指示された行動」として扱うとしています。
10の実践と5つの段階
文書の2ページ目の一覧。5つの段階と10の実践出典: NIST CAISSI・NSA SISC・CISA「Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation」(米国政府の文書(TLP:CLEAR、制限なく共有可)のPDFの2ページ目を画像にして切り出しのみ・2026-10-21確認)
10の実践は、準備・検知・対応・復旧・報告の5段階に分かれています。文書は、それぞれの項目に、CSF 2.0の対応する項目の番号を付けています。
10の実践の要点と、社内での使い方(編集部作成)作成: 編集部 / もとの資料: NIST CAISSI・NSA SISC・CISAの文書
準備では、エージェントの権限を仕事に要る範囲に絞り(1.1)、通信先を許可の一覧で絞って見張られた出口を通す(1.5)よう求めています。事故やヒヤリハットを見つけたら、すぐに止める・閉じ込める仕組みを作ることも挙げています(1.7)。事故の重大度の基準を作り、訓練をすることも準備に入っています(2.1・2.2)。
検知では、エージェントごとに使える仕組みと通信の範囲を決め、外れた動きを見つけやすくします(3.1)。エージェントが見張りの仕組みやログに触れたり、邪魔したりできないようにすることも求めています(3.3)。
対応では、道具の呼び出し、時刻、通信の記録などを、改ざんしにくい形で残します(5.1〜5.3)。止める方針を決め、制御が破れたら自動で止めます(6.1・6.2)。事故の間に使われた認証情報を取り消し、侵された恐れのある環境を作り直します(6.4)。エージェントが居座るための裏口や、隠れた通信の経路も探して塞ぎます(6.5)。
復旧では、確かめた状態から環境を作り直し(7.1)、見張り・ログ・止める仕組み・権限の制限が動くことを確かめてから再開します(7.3)。再開の判断と、残るリスクを書き残します(7.5)。
報告では、影響を受けた相手に知らせ(8)、法令の報告の決まりに従い(9)、学んだことを広く共有する(10)よう求めています。
社内のAIエージェントに当てはめると
文書の多くは、AIを訓練する研究の場を想定した書き方です。それでも、会社で使うAIエージェントにそのまま使える考え方があります。
- エージェントに渡すアカウントやAPIキーは、人のものと分け、仕事に要る範囲に絞る
- エージェントが使える社内のシステムと、外への通信の範囲を決めて書き残す
- 「止める」方法(アカウントの停止、キーの取り消し、つないでいる道具の切り離し)を、誰が、どの順で行うかを決める
- エージェントの操作の記録を、エージェント自身が消せない場所に残す
AIエージェントの権限の管理は、ServiceNow、AIエージェントに「身分証」と権限の制限 暴走に歯止めでも取り上げました。国内では、デジタル庁が政府職員向けのAIエージェントの決まりとして源内基準を公表しています(デジタル庁、源内にAIエージェント環境を提供)。
