APC 技術ブログ

株式会社エーピーコミュニケーションズの技術ブログです。

株式会社 エーピーコミュニケーションズの技術ブログです。

信頼できるAIのスケーリング:Databricks上のTakedaのセルフサービスAI基盤

Scaling Trustworthy AI: Takeda’s Self-Service AI Foundation on Databricksのセッションでは、武田薬品のDileep Shankar氏(データ&AIエンジニアリング責任者)とHardeepsingh Saluja氏が、武田薬品内で進めているセルフサービスAI基盤の設計と運用について説明した。規制の厳しい製薬分野では、AIの信頼性・拡張性・コスト管理が経営課題になっており、武田薬品はこれらを解決するための実装を進めている。

※本記事は、Data + AI Summit のセッションを現地で視聴したエンジニアが、内容をできる限り客観的に共有することを目的に、生成AIを活用して作成したものです。
※サイトの更新により、リンクが無効になる可能性があります。
― エーピーコミュニケーションズ GDAI部 Lakehouse

課題と要件

自己サービス型AI基盤構築

既存のエンタープライズデータ基盤があっても、生成AIやエージェントを全社展開する際は次の課題がある。

  • エージェント固有のコスト追跡が難しく、既存のFinOpsツールでは不十分。
  • エージェント間のID管理や相互認証が必要で、従来のユーザー認証とは性質が異なる。
  • 責任あるAI(RAI)ガバナンスは文書化されているが、インフラレベルでの自動適用と継続的監視が必要。
  • エージェントは単なるAPIではなく、メモリ、ID、セキュリティ、インフラ、データコネクタを含む多層的な「パッケージ」として扱う必要がある。手作業のプロビジョニングでは多数のチケットと長いリードタイムが発生していた。

セルフサービス基盤のアーキテクチャ

セルフサービスAI基盤構成

武田薬品はDatabricks上にセルフサービスのワークフローを設計した。中核概念は「エージェントパッケージ」で、メタデータ(コストセンター、部門、必要なインフラ種別など)をフォームで収集し、承認ワークフローと自動プロビジョニングにつなげる。

インフラはマイクロサービス化とTerraform(Databricks Terraformドキュメント)を用いたCI/CDで自動化している。シンプルなケースではAgent Bricksなどを組み合わせ、より複雑な統合やカスタムコードが必要な場合はMosaic AIなどを組み合わせて実装している(開発時のノートブックから本番のランタイムへ移すワークフローを含む)。また、ベクトル検索が必要な用途にはベクトルデータベースを利用する設計を採る。

ボイラープレートにはPII扱い、公平性、プロンプト管理、グラウンディングに関する固有のRAIルールを組み込み、Databricksのノートブック権限で重要部分を編集不可にしている。既存エージェントの検索・再利用はMCPエージェントマーケットプレイスを通じて促進する。

ガバナンスと運用の仕組み

エージェント自律型AI基盤

コスト管理にはエージェント単位での追跡が可能なFinOpsダッシュボードを用い、役員・部門・ユースケース別に可視化する。モデル登録やトレースはMLflowを用い、Databricksのシステムテーブルから利用状況を取得している。

アクセス制御はImmutaなどを活用しきめ細かく制御する。MCP(Model Context Protocol)を認証フローに組み込み、エージェントのなりすましを防ぐ設計としている。RAIの評価はコントロールタワーで幻覚やバイアス、PII違反、ジェイルブレイク等の指標を監視し、評価結果はマーケットプレイスで再利用時の参考情報として提供する。

継続的ポリシー執行のために、ノートブックやインフラをスキャンしてポリシー違反や未承認APIコール、トークン使用などを検出するエンフォースメント機能を導入している。非準拠の挙動は自動停止と通知のトリガーにつながる。さらに、プロモーション前の品質評価としてLLMジャッジを利用している。

ビジネスドメイン固有のオントロジーは自動生成し、SMEによる検証を組み込むことでドメイン理解を助ける。Databricksのセマンティクス機能と連携することも想定した運用設計が紹介された。

効果と今後

導入により、インフラプロビジョニングのリードタイムを数か月から約20〜25分に短縮し、チケット処理の負荷を大幅に減らした。FinOpsダッシュボードと自動エンフォースメントでコストとコンプライアンスを可視化・制御できるようになった。組み込みのRAIガイドラインと監視機構により、本番環境での安全性と一貫性を高めている。

武田薬品の取り組みは、規制の厳しい領域でのAI導入を検討する際の具体的な設計例と運用上の示唆を提供している。今後はメタデータを活用した洞察の深化や、Unity AI Gatewayなどの新しい機能を取り入れながら進化させる計画だ。