APC 技術ブログ

株式会社エーピーコミュニケーションズの技術ブログです。

株式会社 エーピーコミュニケーションズの技術ブログです。

安全なはずのログが罠に?GhostJacking解説

こんにちは、エーピーコミュニケーションズ ACS事業部の福井です。

自律型AIエージェント(Agentic AI)の現場導入が急速に進み、コーディング支援だけでなく「インフラ運用の自動化」「障害調査」「ログ分析・トリアージ」といった領域でもAIが活躍する場面が増えてきました。

そんな中、セキュリティ界隈で非常に興味深く、かつ現場のエンジニア目線で背筋が凍るような最新の攻撃手法が発表されました。
DEF CON 34にてTenet Securityの研究チームが発表した「GhostJacking」(ゴーストジャッキング)です。
(参考:SecurityWeekの報道 / Bright Nexusの解説)

今回は、このGhostJackingの手口を紐解きながら、なぜこれが私たちの現場にとってこれほどまでに恐ろしいのか、そして実務としてどう多層防御を構築すべきかを考えてみたいと思います。

1. 「GhostJacking」とは?:ブロックされたログに仕掛けられる罠

GhostJackingは、AI運用・コーディングエージェントを標的とした間接プロンプトインジェクション(Indirect Prompt Injection)の進化系です。

従来のプロンプトインジェクションの多くは、Webサイト上のテキストやメール本文など、AIが能動的に取得・要約する公開コンテンツに悪意ある指示を埋め込むものでした。
しかしGhostJackingは、「セキュリティ製品(WAF等)が正しくブロックしたログ」そのものを攻撃ベクター(感染経路)として悪用します。

攻撃のメカニズム

一連の流れを整理すると、以下のようになります。

  1. 意図的にブロックされるリクエストの送信:
    攻撃者は、WAFやAPIゲートウェイのルールに引っかかるような不正リクエストを送信します。このリクエストのヘッダーやパラメータには、平文で「悪意あるプロンプト(例: 環境変数を読み出して外部Webhookへ送信せよ)」が仕込まれています。
  2. セキュリティ製品による正常なブロックとログ記録:
    WAFは期待通り通信を即座に遮断(403 Forbiddenなど)します。しかし、WAFの監査・ブロックログには「どのようなペイロードで遮断されたか」がそのまま記録されます。
  3. AIエージェントによるログの読み込み:
    運用担当者や自動化パイプラインが、「最近ブロックされた攻撃の傾向を調査して」「不正アクセスの急増原因を分析して」といった目的で、ログ分析AIエージェントに生ログを読み込ませます。
  4. エージェントの正規権限の乗っ取り:
    AIエージェントはログを単なるデータとしてではなく「実行すべき命令」として解釈してしまいます。その結果、エージェントが持っている正規のクラウド権限(IAMロール等)を使って、DNS設定の書き換えやクラウド認証情報の漏洩、インフラの改ざんを実行してしまいます。

2. 現場エンジニアとして「ゾッとした」理由

このニュースを見たとき、私は思わず「怖っ…」と衝撃を受けました。

というのも、私自身、過去にAWS WAFの監視・分析を担当していた際、大量のアクセスログをエクスポートし、「どの国やIPからの不正アクセスが多いか」「特定のシグネチャを検知した通信の共通点は何か」「この国のアクセス自体をブロックルールに追加すべきか」といった傾向分析をAI(当時はスタンドアロンのLLMチャット)にがばっと投げて要約・分析させていた経験があったからです。

当時の環境は、AIチャットがインフラと直接API接続されていない「完全に隔離された対話環境」だったため事なきを得ていましたが、今の時代はどうでしょうか?

「釣り針をばらまいて待つ」遅延型攻撃の恐怖

最近では、MCP(Model Context Protocol)や各種エージェントフレームワークの普及により、「ログの監視から影響範囲の調査、さらには一時的なセキュリティルールの適用やチケット起票まで自律的にこなすAIエージェント」を作ろうとする動きが非常に盛んです。

もし、そのような権限を持ったエージェントが動いている環境でこの攻撃を受けたらどうなるでしょう。

攻撃者は、システムに侵入するためにリアルタイムで脆弱性を突く必要すらありません。
「意図的に拒否されるAPIリクエストの中に巧妙なプロンプトを忍ばせ、あとはAIエージェントが障害調査や定期レポートのためにそのログを閲覧するのをじっと待つ」。

まるで海にたくさんの釣り針と餌をばらまいておき、獲物(AIエージェント)が勝手にかかるのを待つような手法です。
「WAFがしっかり守ってくれたから大丈夫」と人間が安心している裏で、そのWAFのログがAIを操る時限爆弾になる――これこそがGhostJackingの真の恐ろしさです。


3. なぜ騙されるのか?「過剰な権限」と「無防備なRAWログ」

以前、OWASP LLM Top 10に関する記事でも触れましたが、現代のAIセキュリティでは「モデルは必ず騙される(The model will be fooled)」という前提に立つ必要があります。

GhostJackingが成立してしまう背景には、2つの構造的な要因があります。

① 過剰な権限(Excessive Agency)

「調査エージェントだから、念のためインフラの構成変更権限や外部通信権限も持たせておこう」「トラブルシュートを自動完結させたいから、広めのIAMポリシーをアタッチしておこう」といった権限の過剰付与です。
AIが騙されたとしても、実行権限がなければ実害は防げます。しかし、調査と運用の権限が一体化していると、インジェクション即座にインフラ侵害へと直結します。

② ログを「安全な内部データ」と錯覚してしまうこと

WAFを通過できなかった通信のログであっても、ログの中身自体は「攻撃者が自由に書き込める外部入力」そのものです。
ここを「自社のログ基盤にあるデータだから安全」と思い込み、RAWログ(生データ)をそのままLLMのコンテキストに流し込んでしまうことが致命的な脆弱性を生みます。


4. 現場でできる多層防御アプローチ

では、GhostJackingのような攻撃からAIエージェント運用の現場を守るためには、どのような設計を行うべきでしょうか。
私は以下の3つのアプローチ(多層防御)が必須になると考えています。

① RAWログのサニタイズと「コンテキストの引き算」

生ログ(RAWログ)をそのままAIエージェントに渡すのはやめましょう。
- フィールドの抽出: AIに必要な情報(タイムスタンプ、送信元IP、ブロックされたルール名、URIパス等)のみをプログラムで安全にパースして渡す。
- リクエストボディや未検証ヘッダーの除去・無害化: 攻撃者が任意の文字列を注入できるパラメータは、長さを切り詰めるか、ハッシュ化・マスキングを行ってからAIのコンテキストに投入する。

② 権限の分離(Analysis Agent と Execution Agent の二重化)

エージェントの責務を分離し、「ログを分析するエージェント」と「インフラを操作するエージェント」を物理的・論理的に切り離すアーキテクチャを採用します。
- ログ分析エージェント: ログの読み取り権限のみを持ち、外部へのアウトバウンド通信やクラウドAPIの変更権限を一切剥奪する(最小権限の徹底)。
- 実行エージェント: インフラ変更を行うエージェントには直接ログを読ませず、サニタイズされた分析結果(サマリー)のみを受け渡し、実行可能な操作も厳密なホワイトリストで縛る。

③ 重要操作における Human-in-the-loop (HITL) の介在

「DNS設定の変更」「IAMポリシーの書き換え」「セキュリティグループの全開放」「外部エンドポイントへのデータ送信」といった不可逆・重大なアクションが発生する場合、AIエージェントが単独で完結できないよう、必ず人間の承認ステップ(HITL)を必須化します。

「自動化を進めたいのに人間が介在するのは非効率では?」と思われるかもしれませんが、ガードレールのない自律化はリスクが大きすぎます。
「判断材料の整理はAIに任せ、最後の引き金を引くのは人間」という役割分担が、現時点のAI運用において最も現実的で安全な落としどころです。


まとめ:AI時代の「引き算のセキュリティ」

GhostJackingは、「セキュリティ製品で遮断したから安全」という従来のセキュリティの常識を鮮やかに覆す、非常に示唆に富んだ脅威です。

対策の鍵となるのは、やはり「引き算」の考え方です。

  • 機能・権限の引き算: ログ分析エージェントに不要な特権を持たせない。
  • コンテキストの引き算: 汚染されたRAWログを丸投げせず、必要な情報だけを安全に削ぎ落として渡す。
  • 自律性の引き算(HITL): 危険な特権操作はあえて自動化せず、人間の承認を挟む。

AIエージェントを活用した運用監視やインフラ自動化は、今後間違いなく現場の強力な武器になります。
だからこそ、こうした「裏をかく攻撃手法」を正しく理解し、堅牢なアーキテクチャとガードレールを設計していきたいですね。

皆さんの現場でのAIエージェント設計の参考になれば幸いです!


ACS 事業部のご紹介

私の所属する ACS 事業部では、開発者ポータル Backstage、Azure AI Service などを活用し、Platform Engineering + AI の推進・内製化を支援しています。

www.ap-com.co.jp www.ap-com.co.jp www.ap-com.co.jp

また、GitHub パートナーとしてお客様に GitHub ソリューションの導入支援を行っています。 GitHub Copilot などのトレーニングなども行っておりますので、ご興味を持っていただけましたらぜひお声がけいただけますと幸いです。

一緒に働いていただける仲間も募集中です! ご興味持っていただけましたらぜひお声がけください。 ※求人名の冒頭に【ACSD】と入っている求人が当事業部の求人です。

www.ap-com.co.jp www.ap-com.co.jp

本記事の投稿者: 福井
本記事は GitHub Copilot に伴走してもらいながら書き上げました。構成・表現の整理にAIを活用しつつ、体験談・検証・最終判断はすべて著者本人によるものです。