セッションの要約
ラテンアメリカ最大の民間銀行Bradescoは、データメッシュアーキテクチャを採用してデータプラットフォームの近代化を進めています。セッションでは、プロダクション準備段階での技術的な課題とコミュニティ協力の重要性が強調されました。Bradescoは、多様なデータ形式を扱う中で、コストや成長、時間に関する課題に直面しており、データメッシュへの移行を決定しました。さらに、クラウドへの移行と新しいデータプラットフォームの構築により、データ管理の効率と信頼性が向上しました。Ingestion ManagerとMLOpsの導入により、データの処理能力が強化され、企業のパフォーマンス向上に寄与しています。
データプラットフォームの近代化:データメッシュアーキテクチャを採用する
本セッションのスピーカー、エスカ・ラザンズ氏は、ITプロジェクトとデータの領域で主に専門知識を持ち、20年以上にわたる豊かな職業生活を誇ります。現在、彼女はラテンアメリカ最大の民間銀行の一つであるBradescoのインテリジェンス部門に所属しており、主にデータインジェストとデータ品質に関与する2つのチームを統括しています。
80年以上の堅実な運営履歴を誇るBradescoは、7500万人以上の顧客の多様な金融ニーズを満たしています。彼らの目標は一貫しており、銀行を超えたパートナーシップを育むことで、日常の選択と人間の感情を共有することです。このコミットメントの一部は、データプラットフォームの近代化という取り組みに反映されており、このプロセスは彼らをデータメッシュアーキテクチャの採用に導きました。
変革の道を描く:デジタル変革の普及
導入とデジタル変革
常に進化する世界では、適応こそが生き残るための手段である。この原則は個々の人生においてだけでなく、企業が採用する機能戦略にも当てはまることです。Bradescoのような巨大企業は、ビジネス要件と顧客期待のエスカレートする複雑さに対抗するため、常にデジタルフレームワークを更新しようとしています。
デジタル変革という言葉は、新たなビジネスモデルへの移行だけを含むものではありません。これは、企業文化と組織構造の全体に渦巻く変化も示唆しています。しかし、問題の核心は次の疑問にあります ー 古いシステムと新しいシステム、伝統的な文化と革新的なもの、確立された価値と新たな価値との間の分裂をどのようにして架け橋するのか?
この問題の答えは、Bradescoがデータメッシュアーキテクチャを思慮深く採用することにあります。このシフトは単なる一時的な修正ではなく、データプラットフォームを近代化するための決定的な一歩であり、それが進化するデジタル変革戦略の重要な柱を形成しています。
データメッシュへの遷移と課題
ラテンアメリカ最大の民間銀行の一つであるBradescoは、その素晴らしい業績を誇っています。同行は7500万人以上の顧客を持ち、ブラジルの銀行および金融業界における運用の歴史は80年以上に及びます。
この機関は、さまざまな形式のデータを生成するソリューションに精力的に取り組んでいます。これには、バッチとストリーム、構造化データと非構造化データが含まれます。彼らのデータリポジトリは、顧客層のさまざまなラベルとソリューションを含む150以上のデータベースに拡大しました。これらのほとんどは、少数のワークロードを除き、オンプレミス環境に設置されています。
この運用モデルは、いくつかの重要な課題を引き起こしています。最初の課題はコストに関するものです。スケーリング操作は高い投資を必要とし、これは大きな関心事です。二つ目の課題は、急速な成長に対応するための適切な対策が求められることです。最後の課題は時間です。インフラストラクチャの新しいコンポーネントを購入するのに、しばしば1年から2年かかります。
多種多様な技術の使用は、このシナリオをさらに複雑化させています。この複雑さは、連続的な努力と高度なスキルを求めており、データパイプラインの開発において深刻な課題を引き起こしています。
これらの問題に対抗するためには、データメッシュへの移行が求められています。コスト、成長、時間の課題に対応するためには、適切な技術の選択と専門的なデータ管理が求められます。このセッションでは、これらの課題に対する詳細な解決策を提供することを目指しています。
後続のセッションでは、データメッシュへの遷移を行う際のコスト、成長、時間の課題についてより詳しい議論に深入りします。これらの問題への解決策として、技術選択とデータ管理に重点が置かれます。
クラウドへの大移行と新データプラットフォーム
ビジネスプロセスの近代化を目指し、ラテンアメリカ最大の私立銀行であるBradescoは、2021年に「クラウドへのリープ」プログラムを開始しました。この取り組みは主にデジタルプラットフォームの近代化に焦点を当て、アプリケーション近代化および顧客ガバナンス強化を目指しました。
2022年9月には、BradescoはMicrosoftと共同で大規模な企業プロジェクトに着手し、重要な一歩を踏み出しました。その年の終わりまでに、ネットワークとセキュリティシステムを包含する完全に稼働する土地区域が確立されました。
2023年8月までには、Bradescoの技術チームの一部が大いなる業績を達成し、2,500以上のストーリーをさまざまな環境で成功裏に完成しました。この業績を受けて、同年9月には全チームが新たに開発されたアーキテクチャを次のプロジェクトで全て採用するよう指示されました。これはBradescoが全セクターにおける技術的改善に重きを置いていることを示しています。
新しいアーキテクチャの下での最初の多くのプロジェクトの1つは、2023年1月に始まったデータプラットフォームでした。この新データプラットフォームは、2023年6月にBradescoの主要なデータハブと公式に宣言されました。このデータプラットフォームでの主な達成点の一つは、相互に通信する能力を持つビジネスドメインの導入であり、これはデータカタログを効果的に組織するための強力なツールとなりました。
Bradescoが「クラウドへの大移行」を決定し、新データプラットフォームを開発したことは、近代化へのコミットメントとデータ主導の未来への前進を示しています。これからは、会社内のすべてのチームがこの新しいデータ構造を今後のプロジェクトに利用できるようになるでしょう。この遷移を効果的に進めることは、Bradescoが銀行業界でより強固な地位を築くための重要な要素となるかもしれません。
データプラットフォームの近代化における進展:Ingestion ManagerとMLOpsの重要な役割
この記事は、ラテンアメリカで最も評価の高い民間銀行の一つであるBradescoのデータプラットフォームの進化と近代化に対して、Ingestion ManagerとMLOpsがどのように大きな影響を与えているかを強調しています。
このデータ変換において非常に重要な要素であるIngestion Managerは、数値や日付、時間などのフィールド変換のための標準化されたテストを実行し、エラーの検出を行います。その堅牢なシステムは、任意の不一致が発生した場合に素早く対応するために適切に設計されています。
Ingestion Managerのダッシュボードは、入ってくるデータ、エラー、再処理についての連続的な更新を提供し、実行中のプロセスについての明確な洞察を提供します。
進化を続けるIngestion Managerは、その能力を効果的に拡大しています。例えば、取り込む必要があるデータドメインを特定・強調し、データファイルのタイプを特定します。EDCDでコンパイルされたメインフレームファイルを扱ったある例では、複雑なデータファイル情報を提供します。
Ingestion Managerの監視機能は、チームに現在の開発状況を総合的に理解するためのサービスを提供します。このダッシュボードを一瞥するだけで、Ingestion Managerがプラットフォームに取り込んだファイルの数を解釈するのに十分です。先月だけでも37,000個のファイルが処理されました。
Ingestion ManagerとMLOpsの導入は、データプラットフォームの効率と信頼性を向上させるための大きなステップを意味します。これらのテクノロジーは、大量のデータの安全な処理を加速し、企業のパフォーマンスの向上に顕著な貢献をしています。
次のセクションでは、これらの技術革新の実際の使用法と、ビジネス戦略に対する影響について詳しく探求します。
コスト管理とデータ製品開発
ラテンアメリカ最大級の民間銀行であるBradescoは、7500万人以上の顧客を持ち、ブラジルの銀行業界と金融業界で80年以上の運営経験を持っています。彼らの広範な企業専門知識を活用し、彼らのアーキテクチャの複雑さを一貫して管理し、製品ステーションのデータで最大75%の増加を達成しています。
SaferとBrain Safeの顕著な旅
彼らの高く評価されているプラットフォーム機能の中には、「Safer」と「Brain Safe」があります。これらはPython SQLプラットフォーム上の取引環境として機能し、低レイテンシーのデータを提供します。Saferを使用することで、彼らは固定した処理の実行時間を50%短縮し、これによりレンダリング時間の短縮を通じてクライアントの満足度を向上させています。
PIXの重要性
PIXはブラジルでの即時送金と電子決済において重要な役割を果たしています。それは迅速かつ便利な取引を可能にします。
Brainの活躍
"Brain"への移行を通じて、彼らは1プロセスあたり約20億レアルのクレジットオファーの増加を達成しました。これは「スワップイン・スワップアウト」(入替)と呼ばれるプロセスを通じて可能になりました。
さらに、特徴生成パイプラインは12時間で200万人のデータを処理でき、モデリングの利息パイプラインはわずか40分で結果を提供することができます。このような効率性は、既存の環境では達成できませんでした。
まとめ
ラテンアメリカ最大級の民間銀行の一つによるデータメッシュアーキテクチャを通じてのデータ製品プラットフォームの成功した実装と開発は、自身のプラットフォームを近代化させようとする同様の機関にとって大きな参考になります。顧客に付加価値を提供するというこの試みは、さらに優れたサービスが提供できるように再考を促すことができます。このような研究は、業界の進歩にとって重要です。
Databricks Data + AI Summit(DAIS)2024の会場からセッション内容や様子をお伝えする特設サイトをご用意しました!DAIS2024期間中は毎日更新予定ですので、ぜひご覧ください。
私たちはDatabricksを用いたデータ分析基盤の導入から内製化支援まで幅広く支援をしております。
もしご興味がある方は、お問い合わせ頂ければ幸いです。
また、一緒に働いていただける仲間も募集中です!
APCにご興味がある方の連絡をお待ちしております。