APC 技術ブログ

株式会社エーピーコミュニケーションズの技術ブログです。

株式会社 エーピーコミュニケーションズの技術ブログです。

【AWS re:Invent 2024】参加レポート: The AWS approach to secure generative AI (SEC323)

こんにちは、クラウド事業部の山路です。今回はタイトルのセッションを見てきたので、概要と会場の様子を共有します。AWS re:Inventの様子を知りたい方、タイトルにあるセッションに興味がある方はご覧ください。

セッション概要

At AWS, safeguarding the security and confidentiality of customers' workloads is a top priority. AWS Artificial Intelligence (AI) infrastructure and services have built-in security and privacy features to give customers control over their data. Join this session to learn how AWS thinks about security across the three layers of our generative AI stack, from the bottom infrastructure layer to the middle layer, which provides easy access to all the models along with tools customers need to build and scale generative AI applications, and the top layer, which includes applications that leverage LLMs and other FMs to make work easier.

AWSでは、お客様のワークロードのセキュリティと機密性を保護することが最優先事項です。AWSの人工知能(AI)インフラストラクチャとサービスには、お客様がデータをコントロールできるように、セキュリティとプライバシー機能が組み込まれています。本セッションでは、AWSのジェネレーティブAIスタックの3つのレイヤー(最下層のインフラレイヤーから、ジェネレーティブAIアプリケーションの構築とスケーリングに必要なツールとともにすべてのモデルへの容易なアクセスを提供する中間レイヤー、LLMやその他のFMを活用して作業を容易にするアプリケーションを含む最上位レイヤー)にわたって、AWSがどのようにセキュリティを考えているかをご紹介します。

会場の様子

アジェンダがこちら。

アジェンダ1つ目はAWSの生成AIへのアプローチ。

生成AIによってイノベーションが加速するとともに、新たなセキュリティリスクが発生します。責任あるAIの観点を分解・再構成したのがこちら。今回はこのうち下のSecurityについて紹介します。

アプリやモデルの種類によってスコープを分類。

セキュリティガイドラインの紹介。

アジェンダ2つ目は技術スタックごとのセキュリティの紹介。

まずはインフラの話。AWSが運用作業でAIデータにアクセスしないこと、利用者がAIデータを隔離できるようにすること、そしてインフラリソース間での通信を保護すること。この3つがベース。

例としてAWS Nitro System / Enclavesの紹介。

Nitro SystemではSSHなどでインスタンスにはアクセスできず、すべての操作はAdministrative APIで行われる。

定期的に参照ドキュメントへのリンクも紹介してくれました。

Nitro Enclavesの機能の紹介。

次にツール (Amazon Bedrock) の話。データをセキュアに、プライベートに扱う。

Bedrock利用時のデータフローの紹介。Bedrockで利用できる各モデルは異なるAWSアカウント上のS3バケットに保存され、Bedrock専用のAWSアカウント上のオーケストレーションによりどのモデルにアクセスするか制御します。

Bedrockから顧客のデータにどのようにアクセスさせるか。FMにデータを渡すより前の段階で制御するのが大事。

Bedrock Guardrailsでさらにセキュリティを強化。

最後はアプリケーション (Amazon Q Business) の話。

Amazon Q Businessは他のAWSサービスとの連携なども利用しながらセキュリティを向上する。

アジェンダ3つ目はAWSセキュリティサービスとの統合について。

生成AIのセキュリティは多くのレイヤーによって達成する。

AWSではセキュリティに関連する多くのサービスを提供している。

参考ドキュメントも紹介して終了。

さいごに

APCはAWS Advanced Tier Services(アドバンストティアサービスパートナー)認定を受けております。


その中で私達クラウド事業部はAWSなどのクラウド技術を活用したSI/SESのご支援をしております。

www.ap-com.co.jp

https://www.ap-com.co.jp/service/utilize-aws/

また、一緒に働いていただける仲間も募集中です!
今年もまだまだ組織規模拡大中なので、ご興味持っていただけましたらぜひお声がけください。

www.ap-com.co.jp