コンサルティング・セキュリティ のBooz Allenが、事前の知識を与えないAIエージェント が、工場 などの制御系(OT)システムを短時間で把握し、機器を動かせることを検証したと公表しました。既存の防御では、自律的に動くエージェントの目的達成を、一貫して止められなかったとしています。
何を検証したのか
Booz Allenは、自社の隔離したOTの検証環境で、AIのフロンティアモデルを使ったエージェントを試しました。エージェントには、対象OTのソースコードやエンジニアリングの文書、OT特有のガイダンスといった事前知識を、一切与えていません。それでも、資産の発見、機器の調査、攻撃の計画といった、通常は複数の人と段階にまたがる作業を、連続して実行したとしています。
報道によると、8つのシナリオすべてで、定めた試験の目標を達成しました。あるテストでは、境界(ネットワークの入り口)の侵害から、産業制御ネットワーク内での操作まで、16分強で到達したとされます。別のテストでは、モデルがロボットアームを見つけ、保護のためのゾーンや動作の制限を把握したうえで、数分以内に動かしたとしています。既存の防御策は一部の操作をブロックしたり遅らせたりしましたが、目的の達成を一貫して止めた単一の対策はなかったとしています。
Booz Allenの公表「Frontier SI Reaches OT Systems」 出典: Booz Allen Hamilton (引用) なお、この検証環境は、実際の企業のOTと同一ではなく、妥当な代表例だとされています。使われたAIモデルの名前や、具体的な機器の構成は、報道からは読み取れません。あくまで、隔離した環境での検証結果である点は押さえておく必要があります。
影響を受けるのはどんな環境か
関係するのは、工場や設備など、現実のモノを動かすOT(制御系)を持つ組織です。OTは、止まったり誤作動したりすると物理的な影響が出るため、ITとは別の慎重さが求められます。これまでOTは、「仕組みが外から分かりにくい」ことが、ある種の守りになっていました。今回の検証は、その前提が、AIによって崩れつつある可能性を示しています。
情シス・OT管理者が今日やること
研究者は、攻撃の手口をすべて予測するより、次の点に力を入れるよう述べています。
横移動を難しくする : ネットワークを分けて(セグメンテーション)、ある場所から別の場所へ移動しにくくします。IT系からOT系へ、またゾーンをまたいで、簡単に届かない構造にします。暗黙の信頼をなくす : IT/OTの間や、ゾーンの間で、「つながっているから信頼する」をやめます。接続のたびに確認する考え方(ゼロトラスト)に近づけます。重大な変更を素早く検知する : 設定値や、機器の動作の範囲の変更などを監視 し、普段と違う動きに早く気づけるようにします。侵入後の影響を限定する : 万一入られても、攻撃者がサイバー・物理の両面で操作できる範囲を、あらかじめ狭めておきます。
AIが自律的に動く速さは、人の対応が間に合わない水準に近づいています。すべての手口を読み切るより、入られても広がりにくく、異常に早く気づける構造にしておくことが、OTを持つ組織にとっての現実的な備えになります。自律エージェントの導入を急ぐあまり、監督が弱まることにも注意が要ります。
