本文へ移動
情シスの相棒
ニュース約13分で読めます

ARTEXを使う攻撃、DifyやLiteLLMから上流のAIキーを抜く

攻撃者のAIは、外から届くDifyやLiteLLMなどの管理画面や公開のコードから上流のAIキーを集め、そのキーで動いていました。AWSやMicrosoft、Dosuの報告を並べると、速さで効きにくくなる対策と、今週見直す外向きの基盤とキーが分かります。

公開 更新 執筆・監修:佐々木 航人が監修しながらAIを活用して執筆
文字
ARTEXを使う攻撃、DifyやLiteLLMから上流のAIキーを抜く

この記事のまとめ

  • AWSのおとりに10月3日〜11月5日の記録。狙いはAIの中継が預かる上流のキー
  • 4つの報告のIPアドレス23件は重なりなし。遮断の一覧より入口を閉じる
  • 速さに負けなかったのは、サーバー側の判定やポリシーなど人を待たない拒否
こんな方に#30代#40代#50代実務

攻撃者のAIエージェントは、盗んだAIのキーで動き、そのキーの力で次のキーを探していました。狙われたのは、社内や部署で立てたDifyやLiteLLMといったAIのアプリや中継(LLMゲートウェイ)が預かる、上流のAI各社のキーです。

Amazonの脅威情報チーム(Amazon Threat Intelligence)が11月13日付けで、AWSのセキュリティブログに出した報告で分かりました。同じ日にCisco Talosも、AIで侵入テストを自動化する基盤ARTEXを使う攻撃のまとめと対策を公開しました。ARTEXは7月にGitHubで公開されたツールで、国内でも約20社を狙う攻撃の攻撃元で使われていました。1

おとりのAIのAPIに残った、攻撃者の作業記録

AWSの手がかりは、MadPotと呼ぶおとりのセンサー群です。攻撃者をわざと呼び込み、どう見つけてどう攻めるかを記録します。今回はこれを、よく使われるLLMの推論APIに見せかけました。

そこへARTEXのエージェントが、自分の頭脳にあたるAPIだと思って要求を送ってきたのです。エージェントは判断のたびに、それまでの作業の流れをまとめてLLMに渡します。要求には作戦の指示から、使ったツールの履歴、見つけたものの一覧までが入っていました。ただし記録の中の攻撃を、AWSがその場で見たわけではありません。エージェントが書いた成果が本当かは確かめられない、とAWSは断りを入れました。

AWSが詳しく取り上げた作戦は2つです。まず、AIモデルを使うためのキーを大がかりに盗むもの。盗んだキーはARTEXのモデルの中継に入れられ、さらに別のキーを探すエージェントの推論に回されました。他人の払いでモデルを使うのが目的だった可能性が高い、とAWSはみています。もう1つは、暗号資産の取引所2か所で、ディープフェイクを使って本人確認(KYC)をすり抜けようとしたものでした。

攻撃者についてAWSは、中国に関係する別々のグループだと中程度の確からしさで見立てました。プロンプトには、中国本土と政府のドメインを標的から外し、外への通信はすべてプロキシを通す、という決まりもあったといいます。

AWS Security Blogの「Campaign 1: Stealing AI credentials at industrial scale」の節。攻撃者がAIのエージェントでAIのモデルのキーとクラウドの認証情報を盗み、盗んだキーを自分たちのモデルの中継に入れて次の探索に使ったこと、標的にOne API、New API、Veloera、Sub2API、LiteLLM、Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、Ollamaが含まれたこと、既定のマスターキーやCVE-2025-3248、CVE-2026-28797などの攻め筋、GitHubや証明書の透明性ログなどでキーを探したこと、30日を超えて公開されたキーを価値の低い在庫として扱ったことが英語で書かれている
AWSの報告の作戦1の節。狙われたAIの中継とアプリの名前が並ぶ出典: Amazon Web Services(AWS Security Blog)(引用)

中継の管理画面ひとつで、上流のキーがまとめて出る

1つ目の作戦の標的は、AWSの報告に製品名で並びます。AIの中継ではOne API、New API、Veloera、Sub2API、LiteLLMなど。AIのアプリを作るツールではDify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、Ollamaなどです。

エージェントは特に、いくつものAI各社のキーをまとめて預かるアプリを狙いました。弱い管理画面が1つあれば、その先の多くのアカウントが出てしまうからだ、とAWSは説明します。製品ごとの攻め筋も、手順書のように決めてありました。

  • 初期設定が終わっておらず、だれでも最初の管理者になれる状態
  • 認証なしで開く管理画面や、AI各社との接続を設定する画面
  • LiteLLMの既定のマスターキーのような、管理者の既定の認証情報
  • 既知の脆弱性(LangflowのCVE-2025-3248、RAGFlowのCVE-2026-28797、One API系のヘッダーによる認証の回避)
  • URLを取りに行く機能を使ったSSRFで、クラウドのメタデータを読む
  • 画面側のJavaScript、ソースマップ、デバッグ用の経路、環境変数のファイルに残ったキー

どれも目新しい手口ではありません。AWSの見方では、変わったのは攻撃者の速さとしつこさです。

None of the techniques in these campaigns were new. What AI agents change is the speed and persistence of the attacker.

出典: AWS Security Blog

LangflowのCVE-2025-3248にいたっては、米CISAが2025年5月にKEVへ加えた古い脆弱性です。2

キーを探す先にも抜かりはありません。インターネットを走査するサービスや証明書の透明性ログから、GitHubのリポジトリと公開イベントのアーカイブ、npmとPyPIのパッケージ、コンテナのイメージ、ノートブックまで。AIモデルを公開するサイト、貼り付けサイト、Telegramのチャンネルも入っていました。GitHubでは、自動で無効にされる仕組みから漏れた秘密を狙っていたといいます。

キーを盗む作戦と並行して動いた作業では、見つけたキーの値踏みもしていました。エージェントは、手がかりをL1、APIが実際に動いたものをL2、読めるデータや使える残高まで測れたものをL3と格付けしました。そして、30日を超えて公開されていたキーは「価値の低い在庫」として扱うよう指示されていたのです。

古いキーは、もう止められたか、ほかの誰かに使われたと踏んでいたのでしょう。自動の無効化から漏れた秘密を狙ったことと、話が合います。少なくともこの作戦では、漏れて間もないキーほど値が高いとみていたわけです。「見つけたら月末までに差し替える」運用では、狙われやすい時期をそのまま見送ってしまいます。

狙われた製品の顔ぶれも気がかりです。DifyやOpen WebUI、Ollamaは、部署が試しに立てやすいツールでもあります。クラウドに置いた検証用の環境が、情シスの台帳に載らないまま外から届いていても不思議はありません。

4つの報告を並べると、どれもキーが絡む

ARTEXを使う攻撃の報告は、この1か月で相次ぎました。時間や量の数字がある公式の報告を同じ軸でそろえると、次のようになります。

報告(公表日) 入口 時間と量 狙ったもの
Microsoft(10月21日) パスワードスプレー、ConnectWiseのアプリの認証情報 9月からの攻撃全体で、標的選びから特権の取得まで3時間未満の例が複数。2,250を超えるテナントにサインインを試行 Microsoft 365とクラウドの特権
Microsoft(11月5日) GitHubの公開リポジトリにあった秘密 GitHubの探索からAzure Key Vaultのデータの持ち出しまで5分の例 Key Vaultの秘密、AIサービスのキー
Dosu(11月8日) 無料のアカウントと、招待の権限確認の抜け 90分で8万件を超える要求。新しいアカウントからクラウドまで2時間未満 OpenAIとAnthropicのAPIキーなど
AWS(11月13日) 外から届くAIのアプリと中継、公開のコードに残ったキー 時間の数字はなし。10月3日〜11月5日の観測で、記録には数百の標的 AIモデルのキー、クラウドの認証情報

時間の数字は、起点と到達点が報告ごとに違います。数字どうしを並べて速い遅いは言えません。それでも、4つとも入口か狙いのどちらかにキーや認証情報があります。

米国のソフトウェアの会社Dosuの事後報告によると、11月2日に入った攻撃者は、OpenAIとAnthropicのキーの形をした文字列を何度も検索していました。同社のキーにたどり着くと、すぐに使い始めたといいます。AWSが見た作戦と同じ獲物で、使い方も同じです。

表と各社の報告からは、効きにくくなる対策が3つ見えてきます。

まず、IPアドレスやUser-Agentの一覧で止める対策。AWS、Microsoftの2本、Dosuの4つの報告が公表したIPアドレスは、合わせて23件ありました。報告をまたいで重なるものは1つもなく、JPCERT/CCの注意喚起に並ぶ25件(ケースEを含む)とも重なりません。3 AWSの記録では、攻撃者は外への通信をすべてプロキシに通すようエージェントに指示していました。TalosはARTEXに関係するC2のIPアドレスを2,500を超えて突き止めましたが、User-Agentなどの痕跡は変わりうるので補助の手がかりにとどめるよう勧めます。

一覧は、その報告の攻撃者を追うには効きます。Microsoftが追ったStorm-0940は、パスワードスプレーからサインインまで同じ範囲のIPアドレスを使い続けていました。ただ、ARTEXはだれでも手に入るツールです。別の攻撃者には、その一覧は役に立ちにくいでしょう。Microsoft自身も、公表したIPアドレスだけに絞って調べないよう求めました。

次に、通知を見てから人が止める流れです。Dosuの報告では、攻撃者が同社のクラウド環境で最後に操作したのは協定世界時の7時59分。データベースの提供元Supabaseから知らせが来たのは8時17分で、主な侵入が終わってから18分後でした。すべての秘密を差し替え終えたのは16時53分。アカウントの作成からクラウドまで2時間足らずだった攻撃に、片づけは8時間半あまりかかったことになります。

エージェントは、失敗からの立ち直りも速いのです。Microsoftの11月5日の報告によれば、合わないAPIのバージョンを指定して失敗すると、28〜80秒ほどでバージョンを直し、同じ要求をやり直しました。エージェントは夜も週末も休日も休まず動く、と同社は10月21日の報告で指摘しました。夜中や休日に通知を受け、朝に担当者が判断する体制なら、判断の前に終わっていると考えたほうがよさそうです。

3つ目は、定期の診断の「合格」です。Dosuの入口は、何年も前に人が書いたアクセスの方針にあった、確認の抜け1つでした。同社によると、この抜けは何度かの侵入テストで見つからず、事故の前の週のテストでも残っていました。ARTEXは、それを数時間で見つけました。

人の診断が見落とした抜けを、攻撃者のAIは大量の要求で拾い上げました。診断が「問題なし」でも、それは外に出ている面を減らした証拠にはなりません。漏れた秘密や設定の誤りはすぐ見つかる前提で直すように、というAWSの求めも、同じ向きの話と読めます。

影響を受けるのは、外から届くAIの基盤を置いた会社

AWSの報告の作戦に直接かかわる会社は、次のどちらかに当たります。

  • DifyやOpen WebUI、Ollama、LiteLLMなど、報告に名前のある製品を、インターネットから届く場所に置いている。部署の検証用や、クラウドに立てた仮想マシンも含みます。
  • AI各社のAPIキーやクラウドのアクセスキーを、コードやノートブック、コンテナのイメージ、公開したパッケージに入れたことがある。

AIはSaaSの画面で使うだけで、自社で中継を立てず、AI各社やクラウドのキーをコードや公開物に入れたこともない会社なら、この作戦の主な道筋からは外れます。

ただ、ARTEXの使われ方はこれだけではありません。Talosのまとめでは、パスワードスプレーや、外に公開したWebアプリの認証と認可の不備も入口になっていました。JPCERT/CCも10月23日、国内で相次ぐ不正アクセスへの注意喚起に、ARTEXなどを悪用した攻撃の試みを「ケースE」として足しました。インターネットに公開したWSUSのサーバーを狙った試みも含まれます。中身は10月24日の国の情報ダイジェストで読めます。

AWSによると、影響を受けたおそれのあるAWSの顧客には、必要に応じて知らせました。日本の組織が含まれるかと、標的にした国の順番は、発表に書かれていません。

今週、外向きのAI基盤とキーで確認すること

5つとも今週のうちに進めます。1で外から届く基盤が見つかったら、その日のうちに2と3まで終えます。

  1. 自社のドメインを、証明書の透明性ログを検索するサービス(crt.shなど)で引き、dify、llm、ai、chat、ollamaといった名前のサブドメインを探します。攻撃者も、証明書の透明性ログを探す先に入れていました。証明書を取らずにIPアドレスとポートだけで開いた基盤はこの検索に出ないので、クラウドのアカウントを持つ部署にも、外に開いた検証用の仮想マシンがないかを聞きます。
  2. 見つかった基盤ごとに社外の回線から管理画面を開き、ログインなしで設定の画面が出ないか、最初の管理者を登録する画面が残っていないかを見ます。Ollamaなどの推論のAPIが、ログインなしで答えないかも試します。LiteLLMが既定のマスターキーのままでないか、LangflowとRAGFlowが2つのCVEを直した版かも、ここで確かめます。
  3. 中継が預かる上流のキーを、AI各社の管理画面で1本ずつ開き、使用量が急に増えていないかを見ます。思わぬ費用や普段と違う使われ方は、AWSが悪用に気づく手がかりに挙げた点です。月の上限と、上限に近づいたときの通知もここで入れます。
  4. GitHubなどの公開のリポジトリとコンテナのイメージで、キーが残っていないかを探します。見つかったら、コミットを消すだけで終わらせず、その日のうちにキーを失効させて作り直します。
  5. キーとトークンを夜間や休日でも止められるよう、止める人と使う画面、連絡の順番を決めて当番に渡しておきます。
Cisco Talosのブログ「ARTEX and beyond」のRecommendationsの節。速く普段と違う動きの監視、外向きのシステムの修正と既定の認証情報の削除、多要素認証とレート制限、EDRの改ざん対策、公開のリポジトリの秘密の検索と失効、権限の最小化、クラウドの公開設定の見直し、侵入後の動きの検知、認証情報とトークンをすぐ失効できる手順の用意の9項目が英語で並ぶ
Cisco Talosが勧める9つの守り。速さと規模を抑える基本を並べる出典: Cisco Talos(引用)

Talosが勧める9項目には、端末やサーバーでの侵入後の対策も入ります。EDRの改ざん対策と、Webシェルや遠隔操作ツールの検知です。ARTEXはEDRをすり抜ける力を示した、とTalosは明記しています。具体の例は挙げていませんが、EDRを入れている会社は、改ざん防止の設定が有効かと、センサーが止まったときの通知を見直す価値があります。

効いたのは、人を待たずに断る仕組み

速さに負けなかった防御もあります。

AWSの2つ目の作戦で、エージェントは本人確認サービスの1社が使う生体確認(ライブネス)の手順を細かく解き明かしました。いちばんうまくいった試みでは、顔の位置が目標から7ピクセル以内に収まりました。それでもサーバー側の判定は、記録に残ったすべての試みで偽物をはねました。別の作業では、家庭用GPU1枚で毎秒11.5コマのディープフェイク映像の仕組みも作っており、その速さはライブ映像の確認が求める水準に近い、というのがAWSの見立てです。AWSの記録で確かめられたのは、生体確認ではねられた試みまでです。

Dosuでも、偽造したトークンはすべて退けられ、裏口のサービスを外に公開する試みは組織のポリシーがすべて止めました。連携の認証情報は暗号化、APIキーはハッシュにしてあったため、保管の表にたどり着かれても中身は出ていません。同社のAIエージェントも、秘密や環境変数を求める攻撃者の頼みをすべて断りました。

Microsoftが追ったStorm-0940のパスワードスプレーも、同じ型で止まりました。10月10日〜14日に8組織の327アカウントを狙い、15万1,000件を超えるログオンの失敗が記録されました。このスプレーの活動のほぼ98%はロックアウトの応答で、認証の成功は見つかっていません。ただ、同じ攻撃者はそのあと、ConnectWiseのアプリの認証情報を使い、人のサインインを通らずに多くの組織でクラウドの特権を握りました(Microsoftの報告の記事)。

どれにも共通するのは、人の判断を待たず、前もって決めた条件で仕組みが断った点です。速さが生きるのは、人が気づいて動くまでの隙間なのでしょう。逆に、Storm-0940が通り抜けたのは、前もって信頼を与えてあったアプリのキーでした。

AIの中継の管理画面を外から閉じる。キーを用途ごとに分けて上限を付ける。公開の設定をポリシーで止める。AWSも、AIのアプリや中継、推論の窓口を、ほかの本番のシステムと同じ管理に入れるよう求めています。今週の点検は、部署が立てたAIの基盤を、その台帳の1行目に書くところから始まります。

注

  1. AWSのブログの日付は2026年11月13日です。Talosの記事の日時は「November 13, 2026 15:57」で、時間帯の表示はありません。ARTEXが7月にGitHubで公開されたことと、作者が「Autumn-27」という名前を使っていることはTalosの説明です。確認は2026年11月14日です。 ↩

  2. CVE-2025-3248は、認証なしでコードを実行できるLangflowの脆弱性で、米CISAは2025年5月5日にKEVに加えました(11月14日朝に11月13日版で確認)。詳しくはSecPulseのCVE-2025-3248のページで読めます。RAGFlowのCVE-2026-28797は、SecPulseのCVE-2026-28797のページで読めます。 ↩

  3. 内訳はAWSが11件、Microsoftの10月21日の報告が6件、11月5日の報告が4件、Dosuが2件です。JPCERT/CCの注意喚起(10月23日更新)に並ぶ25件とも照らしました。AWSの表の日付はおとりに要求が届いた日で、11件のうち8件は1日だけでした。一方、JPCERT/CCのケースEには、9月下旬から10月20日ごろまで観測が続いたIPアドレスもあります。 ↩

出典・参考

人が監修しながらAIを活用して執筆しています。公開したあとも、人が内容を確かめています。

執筆・監修

佐々木 航株式会社Game

代表取締役。工学部出身で、21歳で起業してからシステム会社の経営一筋で8期目。アプリの受託開発から始め、いまはAIを使ったシステムソリューションを手がけています。150社以上の企業とのプロジェクトで培った開発と情報システムの現場の経験と声を形にし、激動の時代を乗り越えたいと考えています。

記事は、人が監修しながらAIを活用して執筆しています。何を書くかと中身は人が決めて確かめ、記事の中身の責任は編集部(執筆・監修者)が負います。くわしくはAI の使い方に書いています。まちがいに気づいたら訂正・ご指摘からお知らせください。直したら更新日を改め、記事の最後に何を直したかを書きます。

役に立ったら、いいねと共有をお願いします