はじめに
このセッションでは、過去1年間にアメリカの企業であるProvidence Healthcare（プロビデンス・ヘルスケア）がどのように進歩を遂げてきたか、特にAI/MLモデルマーケットプレイスの開発と、セキュアなAzureクラウド環境内でのその機能にどのように焦点を当ててきたかについて説明されました。
データサイエンスの責任者とそのパートナーであるデータサイエンス部門のディレクター、Vivek氏が主催したこのプレゼンテーションでは、30分間のプレゼンテーションの後に質疑応答の時間が設けられました。
プロビデンス・ヘルスケアは、アメリカの西部7州で運営されている非営利のヘルスケアシステムです。セッションを通して、彼らの取り組みが実際にどのような結果をもたらしているか、そしてそれがどのようにセキュアな環境の中で行われているかが印象的でした。
セッションでは、プロビデンス・ヘルスケアがどのようにしてMLOpsとAIガバナンスを実装し、AI/MLモデルマーケットプレイスの開発をどのように推進しているか、実際のケーススタディを通じて詳細に説明されました。彼らの実践的な取り組みとその結果は、非常に興味深いものでした。
- はじめに
- ヘルスケアにおけるMLOpsとAIガバナンス - プロビデンス・ヘルスケアのユースケース
- プロビデンス・ヘルスケアにおけるAIカウンシルとプロジェクトの優先順位付け：ケーススタディ
- プロビデンス・ヘルスケアにおけるモデルリスク管理とMLOpsのケーススタディ
- モデルのデプロイメントと公正性：プロビデンス・ヘルスケアからのアプローチ
- ヘルスケアにおけるMLOpsとAIガバナンス：プロビデンス・ヘルスケアの事例
ヘルスケアにおけるMLOpsとAIガバナンス - プロビデンス・ヘルスケアのユースケース
AI戦略とパートナーシップ
医療システムはその非効率性とコスト面での著しい問題点で知られています。AIがこれらの問題を改善し、変革する重要な役割を果たすことができると考えられています。その結果、運用がより機能的で生産的になるだけでなく、患者のアウトカムと体験も向上するでしょう。
医療業界との協業の中で、多くの人々がAIの導入に対する大きな不安を抱いていることが見受けられました。しかし、プロビデンス・ヘルスケアは、経営陣レベルでの明確なメッセージングとリーダーシップから恩恵を受けています。当社の社長兼CEOであるロッド・ホッチマン博士は、毎年、医療予測のリストを公表しています。2018年、私たちは彼の言葉に焦点を当てることを決め、流行だけでなく、ヘルスケア全体の変革に注力する重要性を認識しました。COVID-19パンデミックが私たちの運用に持続的な影響を及ぼす中、この予言は今まで以上に関連性を持っています。
これは、同社がこれまでに構築してきたAI戦略とパートナーシップが、業界のAIに対する不安を克服し、頑健なシステムを構築するだけでなく、AIを真剣な問題解決の有望なツールとして採用してきたことを示しています。
プロビデンス・ヘルスケアにおけるAIカウンシルとプロジェクトの優先順位付け：ケーススタディ
AI council(AI カウンシル)との協働
プロビデンス・ヘルスケアは、組織全体の戦略に沿ったプロジェクトを明らかにし、それらを優先順位づけするために適切な人員をまとめるという課題に直面しました。進行中の目標は、組織化されたAIカウンシルが新たなプロジェクトへの資金調達とリソースを確保する力を与えることです。
解決策として、同社は4つのAIカウンシルを設けました。これらのカウンシルはそれぞれ異なる問題領域を対象とし、4つのセクターに分類されています。これらのカテゴリーは、相互に関連しながら、それぞれが特定のヘルスケア情報処理の領域を専門としています。
幾つかのAIカウンシルのセクター
ここでは、2つの重要なセクターが定義されており、それぞれが異なるペースで進歩していることを解説します。
- 患者ケア提供：最も注意深く、忍耐強く取り組む分野。安全で適切な患者ケアのためのAI/MLモデルの開発と実装には、数多くの規制と倫理問題が関わっています。
- 消費者との対話：このセクターは既に稼働しており、"Grace"という名前のチャットボットが患者の予約検索を支援しています。
これらのケーススタディを通じて、プロビデンス・ヘルスケアがAIを活用して医療を改善する方法、そしてAIカウンシルの重要な役割とその運営がプロジェクトの戦略と優先順位付けとどのように絡み合っているかを調査しました。これらの機能がどのように相互作用し、一体的な医療、ケアの促進、進行状況の監視に寄与するかを注視していくのは興味深いです。
プロビデンス・ヘルスケアにおけるモデルリスク管理とMLOpsのケーススタディ
過去1年間で、同社はセキュアなAzureクラウド環境でMLOpsの強固なフレームワークを実装することで大きな進歩を遂げました。彼らはAI/MLモデルマーケットプレイスをワークフローに組み込むことでこれを達成し、二つの顕著な概念 - モデルリスク管理とサーバーレステクノロジーをMLOps開発に統合しました。
モデルリスク管理はAIと機械学習モデルの作成において中心的な役割を果たします。この用語はモデルが誤った予測をする可能性を指し、同社はこのリスクを緩和する措置を実施しています。伝統的に、金融サービス業界はこの実践の砦でしたが、他のセクター、特に医療業界で注目を集め始めています。
プロビデンス・ヘルスケアはモデルリスク管理の重要性についての認識を高めることに努め、それをすべてのモデル開発プロジェクトに強調的に組み込んでいます。この慎重なアプローチにより、彼らのAI/MLモデルはシームレスに、そしてトラブルなく動作し、これらのモデルの信頼性と精度を向上させます。
同社のMLOps戦略のもう一つの重要な要素は、サーバーレステクノロジーの採用です。この革新的なテクノロジーは開発者をサーバーのメンテナンス責任から解放し、彼らがビジネスロジックの開発に集中することを可能にします。Databricksとのパートナーシップにより、プロビデンス・ヘルスケアのサーバーレス環境での予測モデルの開発は、努力の必要なく、絶えず改善し、スケーリングを促進します。
プロビデンス・ヘルスケアのモデルリスク管理とサーバーレステクノロジーをMLOpsに組み込む努力は、AI/MLモデルの開発と運用の大幅な改善を証明しました。この効率的な統合は、広大な医療領域内のこれらの進歩的な技術概念がAI／MLモデルのデプロイメントにおける革新的なブレイクスルーを約束する未来を予告します。
同社が開発体験の強化と運用の俊敏性の向上のための方法を切り開きつつ、MLOpsにモデルリスク管理とサーバーレステクノロジーを採用する重要性はますます明らかになってきています。これらの先進的な実践をAI/MLモデルの管理とデプロイに適用することで、業界全体が利益を得ることができることは明らかです。
モデルのデプロイメントと公正性：プロビデンス・ヘルスケアからのアプローチ
オープンソースモデルのデプロイメント
OpenAIのAPIを使用することに慣れている方々にとって、HTTPリクエストを送信し、問題なくアプリケーションに統合されたレスポンスを取得することは容易です。しかし、オープンソースモデルについては、このアプローチを調整する必要があるかもしれません。
プロビデンス・ヘルスケアは課題に前向きに取り組んでおり、Databricksとの提携を模索しています。目的は、開発者の皆さんにOpenAI APIと同等の流れを提供することです。この中心的な要点は、開発者がAPIリクエストを行い、それをオープンソースモデルを扱うアプリケーションへ容易に統合できるようにすることです。この戦略は、私たちが最近FACAとの会合で討議した重要な議題でした。
AIにおける公正性：譲れないもの
AI/MLモデルは、その運用において公正であるべきです。これを達成するためには、透明性が鍵となります。AI/MLモデルの作成からデプロイメントに至るまで、徹底的な検討が可能なクリアでオープンなプロセスが必要となります。
プロビデンス・ヘルスケアへの、公正でユーザーフレンドリーなAI/MLモデルの提供への我々のコミットメントは揺るぎないものです。我々の堅牢なMLOpsフレームワークとAIガバナンスモデルが、プロセス全体で公正性を維持することに焦点を当てる役割を果たしています。これは、我々の戦略の重要な部分であり、我々が引き続き優先して行うものです。
このセクションでは、プロビデンス・ヘルスケアがオープンソースモデルのデプロイメントとAIの公正性の確保をどのようにして行っているか、MLOpsとAIガバナンスというより広範な議論の一部として概観したことになります。
ヘルスケアにおけるMLOpsとAIガバナンス：プロビデンス・ヘルスケアの事例
マルチモーダルAIと規制遵守
非構造化データを活用するマルチモーダルAIの実装は、ヘルスケアAIの世界で大きな注目を集めています。しかし、規制遵守の観点からすると、その実装はかなりの課題を伴うことがあり、プロビデンス・ヘルスケアも例外ではありませんでした。
セッションでは、同社のデータチームのメンバーであるSuhee Lee氏が、ヘルスケアの未来はマルチモーダル、精密ベース、ビジョン指向、パーソナライズされたものになると話しました。これは、患者のケアをパーソナライズし、その精度を高めるために、さまざまな形式のデータが活用されることを意味しています。
例えば、Microsoftとプロビデンス・ヘルスケアが共同で立ち上げたデジタル組織学のための基礎モデルであるGigaPathは、患者のテキストデータを統合するマルチモーダルモデルです。このようなアプローチは、AIを通じて患者のケアにますます重要な役割を果たすでしょう。
しかし、こうした先進的な取り組みは、重要な規制遵守の課題を伴います。規制はAIの使用を制限するだけでなく、その開発と運用方法についてのガイダンスも提供します。 同社は、この問題を適切に対処するため、MLOpsとAIガバナンスについての理解を深め、これらの原則を支持するフレームワークを構築するための努力をしてきました。
つまり、非構造化データを同時に利用するマルチモーダルAIは、ヘルスケアにおける正確でパーソナライズされたケアの実現に貢献します。 しかし、これらの技術的側面を活用する一方で、規制遵守を最優先にすることが非常に重要です。プロビデンス・ヘルスケアの努力は、これらのコンプライアンス課題を克服する一例を提供し、ヘルスケア業界の他の関係者に貴重な洞察を提供します。
まとめ
このセッションでは、プロビデンス・ヘルスケアがAI遵守に取り組みながらMLOpsとAIガバナンスのフレームワークを構築した方法を説明しました。 マルチモーダルAIはパーソナライズされたヘルスケアの実現に貢献しますが、規制遵守はその成功のために必須です。規制はAIの開発と運用方法についてのガイダンスを提供し、これらに対する遵守はAIの進歩と並行して進めるべきです。 プロビデンス・ヘルスケアの努力は、規制遵守の課題を克服しつつ最先端のヘルスケアソリューションを提供する成功を示しています。この成功事例は、他のヘルスケアプロバイダーにとって間違いなく貴重な洞察を提供します。
Databricks Data + AI Summit（DAIS）2024の会場からセッション内容や様子をお伝えする特設サイトをご用意しました！DAIS2024期間中は毎日更新予定ですので、ぜひご覧ください。
私たちはDatabricksを用いたデータ分析基盤の導入から内製化支援まで幅広く支援をしております。
もしご興味がある方は、お問い合わせ頂ければ幸いです。
また、一緒に働いていただける仲間も募集中です！
APCにご興味がある方の連絡をお待ちしております。
