APC 技術ブログ

株式会社エーピーコミュニケーションズの技術ブログです。

株式会社 エーピーコミュニケーションズの技術ブログです。

トップ > AI > 【Zscaler】Zscaler Gen AI Security Report徹底解説 プロンプト、DLP、利用傾向を深掘り分析

【Zscaler】Zscaler Gen AI Security Report徹底解説 プロンプト、DLP、利用傾向を深掘り分析

AI 生成AI 可視化 ログ分析 ダッシュボード ゼロトラスト サイバーセキュリティ クラウド ZIA #Zscaler Zscaler

はじめに

こんにちは、エーピーコミュニケーションズ iTOC事業部 BzD部 0-WANの平松です。本記事は、筆者個人の技術的な知見と経験に基づき、Zscaler Gen AI Security Reportの機能をご紹介するものです。記事の内容は、弊社の公式見解や性能保証を示すものではありません。

Zscaler Gen AI Security Reportとは

Zscaler Gen AI Security Reportは、会社組織からアクセスされている生成AIアプリケーションに関する利用状況の可視性を提供する機能です。

これは、ZscalerのZero Trust Exchange(以下ZTE)を経由するすべてのトラフィックを監視・分析することで実現され、組織がAIの導入に伴う潜在的なデータ漏洩リスクやシャドーAIの問題を特定することを可能にします。

Zscaler Gen AI Security Reportのメリット

Zscaler Gen AI Security Reportを活用することで、以下の重要なメリットを得ることができます。

  • 安全なAI導入の促進:

組織内での生成AIアプリケーションの利用状況を完全に可視化し、制御できるため、機密データを保護しながらAIを活用した新しい取り組みや業務の改善を進めることが可能になります。

  • シャドーAIの特定と利用者の把握:

組織内で誰がAIをどのように活用しているかを特定できます。ユーザーがAIアプリケーションに入力したすべてのプロンプト（質問や命令）とクエリを監視/把握.可視化が可能になります。

  • プロンプト内容の分析:

入力されたプロンプトの種類を、小規模な言語モデル（SLM）を使用してカテゴリに分類し、ユーザーの利用意図や利用傾向を詳細に把握できます。

Zscaler Gen AI Security Reportの確認方法

ZIAの[Analytics] > [Gen AI Security Report]をクリックします。

Gen AI Security Reportの画面が表示されます。

Zscaler Gen AI Security Reportの内容について

Zscaler Gen AI Security Reportの機能と記載内容について番号順で説明します。

①Reportの表示期間設定

Zscaler Gen AI Security Reportは、以下の期間の組織内の生成AIアプリケーションの情報を確認することができます。

  • 分析期間
    • Last 1 Day（過去1日）
    • Last 7 Days（過去7日間）
    • Last 15 Days（過去 15 日間）
    • Last Month（過去 1 ヶ月）
    • Last Quarter（過去3か月）

②使用されたGen AI Applicationsの数

画像で青く表示されている数字は、特定の期間内に組織内で使用されたGen AIアプリケーションの総数を示しています。

右側に表示されている『Sanctioned (認可アプリケーション)』と『Unsanctioned (無認可アプリケーション)』の文字と数字は、期間内に使用されたGen AIアプリケーションが、企業によって認可されたものと無認可のものにそれぞれ何件含まれているかを表しています。

また青く表示されている数字をクリックすると以下のように、特定期間内に使用されたGen AIアプリケーションのアプリケーション名やトランザクション数(リクエスト数)が表示されます。

更に、グラフ内のGen AIアプリケーション名をクリックすると、そのアプリケーションの情報を選択して確認することができます。

今回は、自分がGen AIアプリケーションの情報を確認する際によく確認する項目を紹介します。

②-1.User 特定期間内に選択したGen AIアプリケーションにアクセスしたユーザ名およびアクセスした数を表示します。

②-2.Department 特定期間内に選択したGen AIアプリケーションにアクセスした部署名およびアクセスした数を表示します。

②-3.Location 特定期間内に選択したGen AIアプリケーションにアクセスしたロケーションおよびアクセスした数を表示します。

②-4.Uploaded file name 特定期間内に選択したGen AIアプリケーションにアップロードされたファイルの数とファイル名を表示します。 このログを確認することにより、機密情報を含んだファイルがAIアプリケーションにアップロードされていないか確認することができます。

②-5.Downloaded file name 特定期間内に選択したGen AIアプリケーションからダウンロードされたファイルの数とファイル名を表示します。

②-6.View Logs 特定期間内に選択したGen AIアプリケーション通信の詳細なInsight ログが表示されます。

③特定の期間における組織全体のGen AI使用状況のサマリー

  • Gen AI 利用状況の主要指標
    • Transactions to Gen AI (Gen AIへのトランザクション総数)
      • 組織のユーザーが Gen AI アプリケーションに対して行ったリクエストの総数が記載されています。
    • Sensitive Data to Gen AI (Gen AIへの機密データ送信件数)
      • Gen AI アプリケーションに送信された機密データ（Sensitive Data）の件数が記載されています。
    • Users Accessed Gen AI (Gen AIにアクセスしたユーザー数)
      • Gen AI アプリケーションにアクセスしたユーザーの総数が記載されています。
    • Total Files Uploaded:Gen AI (Gen AIへのアップロードファイル総数)
      • Gen AI アプリケーションに対してアップロードされたファイルの総数が記載されています。

またSensitive Data to Gen AIの青い数字をクリックすると、⑤で解説する「Analyze More」と同様の内容が表示されます。

④View Prompts

[Web Insights ]ページにリダイレクトされ、AIアプリケーションに対して各ユーザーが入力したプロンプトが表示されます。

また[View Prompts]タブを表示するには、[URL and Cloud App Control] > [Advanced Policy Settings] > [Generative AI Prompt Configuration]で個々のAIアプリケーションのプロンプト設定を有効にする必要があります。

⑤Analyze More

Zscaler Gen AI Security Reportの「Analyze More」は、組織内のAI利用状況を深掘りし、潜在的なセキュリティリスクを特定するための強力な分析ツールです。

  • このビューは、以下の3つの主要な分析軸に基づいてデータを整理します。
    • 1. Application (アプリケーション)
    • 2. Content Type (コンテンツ タイプ)
    • 3. User (ユーザ)

⑤-1. 詳細ビューのカスタマイズとフィルタリング

  • 列のカスタマイズ: [列メニュー] アイコンから表示列をカスタマイズしたり、ラベルをドラッグ＆ドロップして列の順序を入れ替えたりすることができます。

  • 期間とポリシーのフィルタリング:

    • [過去1日間] から [前四半期] までの期間を選択して表示データを絞り込めます。
    • 実行されたポリシーアクション（[Allowed]、[Blocked]、[Isolated]）
    • アプリケーションステータス（[Sanctioned]、[Unsanctioned]）
    • コンテンツタイプ（[DLP Dictionaries]、[DLP Engines]、[Document Classification]、[Prompt Classification]）でデータをフィルタリングできます。

  • コンテンツタイプごとのフィルタリング機能

    • DLP辞書 (DLP Dictionaries)
      • 内容: どのような情報が「機密」であるかを定義するパターンのリストです。
      • フィルタリング機能: クレジットカード番号や特定の国民ID形式など、定義されたパターンがデータストリーム（ファイルやプロンプトのテキスト）内に含まれていないかを識別する基準として機能します。
    • DLPエンジン (DLP Engines)
      • 内容: トラフィックやコンテンツをリアルタイムで検査し、DLPポリシーや辞書に違反していないかを判定する処理機構です。
      • フィルタリング機能: パターンマッチングや機械学習技術を用いてデータフローをスキャンし、機密情報が含まれると判定した場合に、転送をブロックしたりアラートを発報したりする実行役を担います。
    • ドキュメント分類 (Document Classification)
      • 内容: ファイルの内容やメタデータに基づき、その機密レベルやカテゴリを自動で識別・タグ付けする機能です。
      • フィルタリング機能: 転送前にファイルが「極秘」「社外秘」などの分類タグに応じた異なるDLPポリシーを適用され、高度なデータ転送制御（フィルタリング）が可能になります。
  • プロンプト分類 (Prompt Classification)
    • 内容: 生成AI（Gen AI）ツールへの入力（プロンプト）の内容を分析し、その意図や機密性の有無をリアルタイムで識別・分類する機能です。
    • フィルタリング機能:プロンプト分類の結果、「機密性の高い情報」（例: クレジットカード番号、ソースコード、未公開の計画など）が含まれていると識別された場合、そのプロンプトがAIサービスに送信されるのをDLPエンジンが直ちに阻止する機能です。

⑤-2. データ分析のドリルダウン機能

詳細ビューでは、左から右へ順にデータを絞り込んでいくドリルダウン分析が可能です。

分析軸 表示内容 活用できること
アプリケーション アプリケーションのステータス（認可/無認可）と、そのアプリケーションで発生したインシデントの合計に対する割合が表示されます。 どのAIアプリが最もインシデントに関与しているかを把握できます。
コンテンツ タイプ 選択したアプリケーション内で検出されたトランザクション数と、そのコンテンツタイプ（DLP辞書など）でのトランザクション全体に対する割合が表示されます。 どのような種類のデータ（機密情報など）がAIアプリに送信されているかを特定できます。
ユーザー 選択したコンテンツタイプを生成したユーザー名と、全ユーザーのインシデント合計に対する割合が表示されます。 誰が最も多くのインシデントを発生させているかを特定できます。

⑤-3. アクションメニューとエクスポート

  • [アクション] ドロップダウンメニューからは、以下の操作に直接アクセスできます。
    • View Logs (ログの表示)
      • 操作内容: 詳細な [インサイト ログ] ページへ遷移し、通信の詳細を確認できます。
    • Create Policy (ポリシーの作成)
      • 操作内容: [AIおよびMLルールを追加] ウィンドウにリダイレクトされ、クラウドアプリ制御ポリシーを迅速に設定できます。
    • View Prompts (プロンプトの表示)
      • 操作内容: DLPエンジンをトリガーしたユーザーの入力したプロンプトを [インサイト ログ] ページで確認できます。
      • （※この機能の利用には事前に[URL & Cloud App Control ]> [Advanced Policy Settings] > [Gen AI Prompt Configuration]にて個々のAIアプリケーションのプロンプト設定の有効化が必要です。）

また、[ダウンロード] アイコンから、表示されている任意の列データをCSVファイルとしてエクスポートし、外部で分析することも可能です。

⑥Gen AI Application Usage

このセクションでは、組織内で最も多く使用されている上位6つの生成AIアプリケーションを棒グラフ形式で確認できます。

このグラフは、各アプリケーションに対し、セキュリティポリシーがどのように適用されているかを示すポリシーアクション（許可済み、ブロック済み、分離済み）の分布を表示しています。

活用方法

  • 詳細の確認: 各棒グラフにカーソルを合わせると、そのアプリケーションで発生したユーザーのトランザクション総数を確認できます。

  • データの絞り込み（フィルター）:

    • データを以下の項目でフィルタリングし、表示をカスタマイズできます。
      • Total Bytes (合計バイト数)
      • Transactions (トランザクション数)
      • Users (ユーザー数)

  • 状態: アプリケーションの認可ステータス（All、Sanctioned、Unsanctioned）を選択します。

  • グラフ表示の選択: グラフの下部にある凡例をクリックすることで、特定のポリシーアクションのグラフ（例：ブロック済みのみ）を表示するように選択することも可能です。

  • 【注意点】ポリシーアクションの表示: ポリシーアクションの分布は、「合計バイト数」または「トランザクション数」をメトリクスとして選択した場合にのみ表示されます。

このセクションでは、上位6つの生成AIアプリケーションの使用傾向を折れ線グラフ形式で表示します。このグラフにより、時間の経過に伴う利用の変化を視覚的に把握できます。

  • 傾向の確認:
    • グラフの日付部分にカーソルを合わせると、その特定の日付における生成AIアプリケーションの使用傾向の詳細が表示されます。
  • データのフィルタリング:
    • グラフに表示するデータは、以下の3つのメトリクスでフィルタリングできます。
      • Total Bytes (合計バイト数)
      • Transactions (トランザクション数)
      • Users (ユーザー数)
  • 表示アプリの選択:
    • デフォルトではすべての生成AIアプリケーションの傾向が表示されます。
    • グラフの下部にあるチェックマークから、特定の生成AIアプリケーションのグラフのみを表示するように選択できます。

⑧Sensitive Data Transactions

このセクションでは、DLPエンジンに基づいてアプリケーションごとに検出された機密コンテンツの分布を、ドーナツグラフ形式で表示します。このグラフは、組織内の機密情報がどのAIアプリケーションを通じて扱われているかを視覚的に示します。 グラフの確認方法と機能は以下の通りです。

  • 詳細の確認:
    • ドーナツグラフの各セグメントにカーソルを合わせると、DLP辞書によってトリガーされた機密データトランザクションの数を確認できます。
  • データのフィルタリング:
    • 表示データは、以下のメトリクスでフィルタリングできます。
      • Total Bytes (合計バイト数)
      • Transactions (トランザクション数)
  • 深掘り分析:
    • [Analyze More] をクリックすると、より詳細な分析画面へ遷移します。
    • 遷移時の状態: [DLPエンジン] コンテンツタイプが選択された状態で表示されます。

⑨Gen AI Usage by Department

このセクションでは、組織の部署やグループごとの生成AIアプリケーション使用状況を積み上げ棒グラフ方式で一目で把握できます。 これにより、どの部署やグループが、どのGen AIアプリケーションをどれくらい利用しているかを確認できます。 グラフの活用方法は以下の通りです。

  • 概要の確認:
    • チャートにカーソルを合わせると、部署ごとの生成AIアプリケーションの使用詳細が表示されます。
  • さらに詳細を深掘り:
    • 特定の部署名をクリックすると、その部署内での利用状況をさらに詳しく確認できます。
  • 詳細分析画面への遷移:
    • [Analyze More] をクリックすると、選択した部署に関するデータが別の詳細画面で表示され、より詳細な分析を行うことができます。

⑩Prompt Classification and Document Classification

[Prompt Classification]

このブロックチャートは、機械学習（ML）モデルによってプロンプト（ユーザーの入力内容）がどのように分類されたかに基づき、生成AIアプリケーションの使用傾向を示します。これにより、ユーザーがAIをどのような目的で使っているのかを把握できます。

グラフの確認方法とカスタマイズ機能は以下の通りです。

  • 詳細の確認:
    • チャートにカーソルを合わせると、プロンプト分類ごとの割合の分布が表示されるとともに、そのプロンプト分類に対応する生成AIアプリケーション名が表示されます。
    • 個々のブロックにカーソルを合わせると、プロンプト分類がアプリケーション全体に占める割合を確認できます。
  • データのフィルタリング:
    • 表示データは、上位のAIアプリケーション全体、または個別の生成AIアプリケーションを選択して絞り込むことができます。
  • 深掘り分析:
    • [Analyze More] をクリックすると、コンテンツタイプとして「プロンプト分類」が選択された状態で、より詳細な分析画面へ遷移します。

[Document Classification]

このブロックチャートは、生成AIアプリケーション全体で、どのようなドキュメントタイプ（ファイル形式や内容）の利用に対して、ユーザーがどのようなプロンプト（入力）を行っているかという傾向を表示します。

グラフの活用方法とカスタマイズ機能は以下の通りです。

  • 傾向の確認:
    • グラフの日付にカーソルを合わせると、その時点でドキュメントタイプで使用されているプロンプトのテーマを確認できます。
  • データのフィルタリング:
    • 表示するデータは、すべてのAIアプリケーションまたは特定のAIアプリケーションを選択して絞り込むことができます。
  • 表示ドキュメントの選択:
    • デフォルトではすべてのドキュメントタイプの使用パターンが表示されています。
    • グラフの下部にある凡例から、特定のドキュメントタイプのみのグラフを表示するように選択することも可能です。
  • 深掘り分析:
    • [Analyze More] をクリックすると、コンテンツタイプとして「ドキュメント タイプ」が選択された状態で、より詳細な分析画面へ遷移します。

⑪Top Users

このセクションでは、組織内で生成AIアプリケーションを最も多く使用している上位のユーザーと、そのユーザーが使用している対応する生成AIアプリケーションが表示されます。

グラフの活用方法は以下の通りです。

  • 利用傾向の確認:
    • グラフ内のセベリティバーにカーソルを合わせると、すべてのユーザーによる生成AIアプリケーション全体のデータ分布を確認できます。
  • データのフィルタリング:
    • 表示データは、すべてのAIアプリケーションでフィルタリングすることも、特定の生成AIアプリケーションを選択して絞り込むことも可能です。

このグラフにより、誰が、どのAIアプリケーションを最も利用しているかを特定できます。

以上でZscaler Gen AI Security Reportの内容の解説は終了となります。

まとめ

今回は、Zscaler Gen AI Security Reportの概要と、組織におけるAI利用状況を可視化するための具体的なレポート項目について解説しました。

このレポートを活用することで、企業はどのAIアプリケーションが、誰によって、どのように使われているかを把握できます。特に、DLP（機密データ保護）機能と連携した詳細ビューを使うことで、データ漏洩リスクの特定やシャドーAIの利用状況を正確に把握し、迅速なポリシー適用が可能となります。

AI利用の安全性を確保し、セキュリティと利便性を両立させるために、ぜひ本レポートを日常の運用にご活用ください。

0-WANについて

私たち0-WANは、ゼロトラスト製品を中心とした、マルチベンダーでのご提案で、お客様の経営課題解決を支援しております。 ゼロトラストってどうやるの？製品を導入したけれど使いこなせていない気がする等々、どんな内容でも支援いたします。 お気軽にご相談ください。 問い合わせ先、0-WANについてはこちら。

www.ap-com.co.jp

参考文献

About the Gen AI Security Report

https://help.zscaler.com/zia/about-generative-ai-security-report