APC 技術ブログ

株式会社エーピーコミュニケーションズの技術ブログです。

株式会社 エーピーコミュニケーションズの技術ブログです。

Databricks の検索結果:

Databricks Cost Management: Tips and Tools to Stay Under Budget(Databricksコスト管理:予算内にとどまるためのヒントとツール)

…丸の報告をもとに、「Databricks Cost Management: Tips and Tools to Stay Under Budget(Databricksコスト管理:予算内にとどまるためのヒントとツール)」というセッションの概要をご紹介します。 本セッションはDatabricks社のThorsten Jacobs (Sr. Solutions Architect)とGreg Kroleski (Product Managments)によるものでした。Databr…

A Fireside Chat: Building Your Startup on Databricks

…ship with Databricks ​This is Johann from the Global Engineering Department of the GLB Division. I wrote an article summarizing the content of the session based on reports from Mr. Nagasato participating in Data + AI SUMMIT2023 (DAIS).​ ​ A…

Learn How to Reliably Monitor Your Data and Model Quality in the Lakehouse(Lakehouse でデータとモデルの品質を確実に監視する方法を学ぶ)

…。 このセッションはdatabricksのAlkis Polyzotis (Technical Lead, Meachine Learning)とKasey Uhlenhuth (Staff Product Manager)によるものでした。講演では、データエンジニアリングチームとデータサイエンスチームがそれぞれ異なるモニタリングツールを使用している問題を解決するために開発されたLakehouse Monitoringについて紹介されました。この新しいプラットフォームは、デー…

A Fireside Chat: Building Your Startup on Databricks (囲炉裏チャット: Databricks でスタートアップを構築する)

Databricksとのパートナーシップでデータ分析能力を向上させるスタートアップ企業 GLB事業部Global Engineering部 ヨハンです。 現地でのData + AI SUMMIT2023(DAIS)に参加している永里の報告をもとに、セッションの内容をまとめた記事を書きました。​ ​ 今回は、データ&AI専門の技術系記者として、興味深い講演を視聴・取材しましたので、その内容を皆さんにお伝えしたいと思います。講演のタイトルは「A Fireside Chat: Bu…

How the Texas Rangers Revolutionized Baseball Analytics with a Modern Data Lakehouse(テキサス・レンジャーズが最新のデータレイクハウスで野球分析に革命を起こした方法)

はじめに GLB事業部Lakehouse部のメイです。 現地でのData + AI SUMMIT2023(DAIS)に参加しているメンバーの報告をもとに、「How the Texas Rangers Revolutionized Baseball Analytics with a Modern Data Lakehouse」を共有します。 このセッションでは、テキサス・レンジャーズのR&DアシスタントディレクターであるAlexander BoothさんとデータエンジニアのOl…

Comparing Databricks and Snowflake for Machine Learning

…Comparing Databricks and Snowflake for Machine Learning." In this lecture, Michael Green, a senior data scientist at Hitachi Solutions America, and Don Scott, who leads new product development, compare the performance of two data analysis p…

Comparing Databricks and Snowflake for Machine Learning (機械学習における Databricks と Snowflake の比較)

…Comparing Databricks and Snowflake for Machine Learning」について、わかりやすくまとめたいと思います。この講演では、Hitachi Solutions AmericaのシニアデータサイエンティストであるMichael Green氏と、新製品開発をリードするDon Scott氏が、DatabricksとSnowflakeという2つのデータ分析プラットフォームを比較し、機械学習におけるパフォーマンスを評価することがテーマとなっ…

Advancements in Open Source LLM Tooling, Including MLflow(MLflow を含むオープンソース LLM ツールの進歩)

はじめに GLB事業部Global Engineering部 佐々木です。 現地でのData + AI SUMMIT2023(DAIS)に参加している永里の報告をもとに、セッションの内容をまとめた記事を書きました。 DAISでのセッションに関する記事は、以下の特設サイトにまとめています。 https://www.ap-com.co.jp/data_ai_summit-2023/ 今回は、最近視聴した講演「Advancements in Open Source LLM Tool…

Getting Insight From Anything: Gathering Data With IoT Devices and Delta Live

Introduction I'm Chen from the Lakehouse Department of the GLB Division. Based on a report by Ichimura, who is participating in Data + AI SUMMIT 2023 (DAIS) held in San Francisco, he published the title "Getting Insight From Anything: Gathe…

Generative AI Fundamentals(生成AIの基礎)

…。 このセッションはDatabricks社のSpecialist Solutions ArchitectのAnastasia Prokaievaによるものです。講演では、生成AI(Generative AI)の基本的な概念や応用例について説明されました。また、データのセキュリティや潜在的なリスクについても触れられ、生成AIの安全な使用についての知識が紹介されました。 生成AIの概要 ​ 生成AIは、人工知能が人間の思考を模倣し、データのパターンや相関を見つける技術です。これに…

How to Build LLMs on Your Company’s Data While on a Budget(予算内で会社のデータにLLMSを構築する方法)

…an OwenさんはDatabricksのPrincipal Product Specialistです。 ​ また、講演は、データとAIに関心がある技術者や、予算に制限がある企業のデータサイエンティスト、自社のデータを活用したい企業の経営者に向けです。 ​ ​ 大規模言語モデルの構築方法とカスタマイズ ​ 予算が限られている企業にとって、大規模言語モデルの構築は難しい課題です。しかし、以下の方法を用いることで、コストを抑えつつ効果的な言語モデルを構築することができます。 ​ …

Best Practices for Running Efficient Apache Spark™ Workloads on Databricks(Databricksで効率的なApacheSpark™ワークロードを実行するためのベストプラクティス)

…kloads on Databricks(Databricksで効率的なApacheSpark™ワークロードを実行するためのベストプラクティス)」という講演の概要をご紹介します。 Databricksを活用した効率的なApache Sparkワークロード実行のベストプラクティス 本講演では、Databricksを使用した効率的なApache Sparkワークロードの実行方法について解説がありました。エンジニアリングチームがビジネスを前進させ、素晴らしい機能を提供するために有限…

What's New in Databricks SQL -- With Live Demos(Databricks SQLの新機能 - ライブデモ付き)

…'s New in Databricks SQL -- With Live Demos(Databricks SQLの新機能 - ライブデモ付き)」という講演の概要をご紹介します。 本講演は、Databricks SQLを使用したデータインジェスチョン、ガバナンス、変換、探索のプラットフォームを紹介するもので、発表者はスタッフプロジェクトマネージャーのCan Efeogluさんです。 講演は、データ&AIに興味がある技術者やデータ分析やデータエンジニアリングに携わるエンジニア…

Accelerating the Development of Viewership Personas with a Unified Feature Store(統一された特徴量ストアで視聴者ペルソナの開発を加速する)

GLB事業部Lakehouse部の陳(チェン)です。サンフランシスコで開催されているData + AI SUMMIT2023(DAIS2023)に参加している永里の報告をもとに、「Accelerating the Development of Viewership Personas with a Unified Feature Store(統一された特徴量ストアで視聴者ペルソナの開発を加速する)」という講演の概要をご紹介します。 本講演は、データ活用による視聴者ペルソナ開発の…

What’s New with Data Sharing and Collaboration on the Lakehouse: From Delta Sharing to Clean Rooms(レイクハウスでのデータ共有とコラボレーションの最新情報: デルタ共有からクリーン ルームまで)

…。 本セッションは、DatabricksのErika Ehrli、Xiaotong Sun、Kelly Albanoによる行ったものです。テーマは、データ共有とコラボレーションのプロセスを簡素化することで、顧客の生活を簡素化することを目指しています。ターゲット視聴者は、データ共有とコラボレーションに興味を持つビジネスパーソンやデータ分析やAIに関心のある技術者、クラウドやプラットフォームの選択肢に制限を感じている企業です。 データ共有とコラボレーションの課題と解決策 データ共…

Testing Generative AI Models: What You Need to Know(生成AIモデルのテスト:知る必要があること)

はじめに GLB事業部Lakehouse部の陳(チェン)です。サンフランシスコで開催されているData + AI SUMMIT2023(DAIS2023)に参加している永江の報告をもとに、「Testing Generative AI Models: What You Need to Know(生成AIモデルのテスト:知る必要があること)」というセッションの概要をご紹介します。 この講演は、AIとセキュリティに特化したサンフランシスコを拠点とする企業「Robust Intell…

dbt Labs | Leveling Up SQL Transformations in the Lakehouse with dbt(dbtラボ| dbtを使用してLakehouseのSQL変換をレベルアップ)

…開催したものであり、Databricksとdbtを使用したデータ分析と変換の利点が紹介され、チーム間の生産性と協力を向上させる方法が説明されました。データ分析や変換に興味のある方や、Databricksやdbtを使用している方、チームでのデータ分析や変換に携わっている方にとって、非常に興味深い内容となっています。 Databricksが提供する親しみやすい環境 Databricksは、SQLに精通している人々に親しみやすい環境を提供し、チーム間の生産性と協力を向上させることが…

Getting Insight From Anything: Gathering Data With IoT Devices and Delta Live(インサイトを得る:IoTデバイスとデルタライブでデータを収集する)

はじめに GLB事業部Lakehouse部の陳(チェン)です。サンフランシスコで開催されているData + AI SUMMIT2023(DAIS)に参加している市村の報告をもとに、「Getting Insight From Anything: Gathering Data With IoT Devices and Delta Live(インサイトを得る:IoTデバイスとデルタライブでデータを収集する)」というセッションの概要をご紹介します。 本セッションでは、Andrew B…

LLMOps: Everything You Need to Know to Manage LLMs(LLMOps: LLM を管理するために知っておくべきことすべて)

…このセッションでは、DatabricksのProduct ManagerであるEric Peter氏によって行われました。講演のテーマは、LLMs(Large Language Models)をプロダクションに投入するために必要な知識を提供することです。対象となる視聴者は、データ&AIに関心がある技術者や、LLMsをプロダクションに投入することに興味がある方々です。 それでは、早速講演で得た知見を、以下のトピックに分けてご紹介していきます。 推論テーブルとモデルサービングの重…

Data Application Bundles: A Standard, Unified Approach to Deploying Data Products on Databricks(Databricks にデータ製品をデプロイするための標準的で統一されたアプローチ)

…oducts on Databricks」 を共有します。 このセッションでは、Databricks上でデータ製品を展開するための新しい標準的なアプローチであるDatabricks Asset Bundlesが紹介されています。データチームやデータ製品オーナー、DevOpsやエンジニアリングなどのオペレーション部門の同僚に向けて、展開方法の選択肢とその利点と欠点を説明していきます。 Databricks Asset Bundlesの概要 Databricks Asset Bu…

What’s New in Databricks Workflows -- With Live Demos( Databricks ワークフローの新機能 -- ライブ デモあり)

…mit-2023/ Databricks Peopleの最新機能を解説!データ分析がこれで劇的に効率化 ​ 今回は、Databricks Peopleの最新機能を紹介する講演「What’s New in Databricks Workflows -- With Live Demos」を取材しました。講演の発表者は、Databricks PeopleのプロダクトマネージャーであるJohnです。この講演のテーマと目的は、Databricks Peopleの機能やエキサイティングな…

Unlocking the Value of Data Sharing in Financial Services with Lakehouse(Lakehouse で金融サービスにおけるデータ共有の価値を引き出す)

…このセッションでは、DatabricksのシニアソリューションアーキテクトであるSpencer Cook氏によるもので、データ共有の価値を最大化する方法について説明しています。ターゲット視聴者は、データ&AIに関心のある技術者、金融サービス業界の専門家、データ共有に興味のあるビジネスリーダーです。 データ共有の重要性とセキュリティに関する現代的なアプローチの必要性 金融サービス業界において、データ共有は業務効率の向上や新たなビジネスチャンスの創出に欠かせない要素です。しかし、…

Data Caching Strategies for Data Analytics and AI(データ分析と AI のためのデータ キャッシング戦略 )

はじめに GLB事業部Global Engineering部 佐々木です。 現地でのData + AI SUMMIT2023(DAIS)に参加している永江の報告をもとに、セッションの内容をまとめた記事を書きました。 DAISでのセッションに関する記事は、以下の特設サイトにまとめています。 https://www.ap-com.co.jp/data_ai_summit-2023/ ビッグデータ時代におけるデータ分析と人工知能のワークロードに対応するキャッシュ戦略の必要性 ​ 今…

Lakehouses: The Best Start to Your Graph Data and Analytics Journey(レイクハウス:グラフデータとアナリティクスの旅への最良のスタート)

…chitectであるDatabricksのDouglas Moore氏です。 この講演では、グラフデータと分析の旅を始めるための最良のスタートであるLakehousesについて、グラフデータベースの課題と潜在的な機械学習と深層学習のサポートについて説明されました。データサイエンティストやデータアーキテクト、データエンジニア、そしてデータ分析に興味のある方々にとって、非常に興味深い内容となっています。 それでは、早速講演の内容を見ていきましょう! データサイエンティストQuin…

Jet Streaming Data and Predictive Analytics(ジェット ストリーミング データと予測分析)

はじめに GLB事業部Lakehouse部のメイです。 現地でのData + AI SUMMIT2023(DAIS)に参加しているメンバーの報告をもとに、航空業界におけるデータ活用の最前線に迫ることについての「Jet Streaming Data and Predictive Analytics: How the Lakehouse and Apache Spark™ Enable Collins Aerospace to Keep Aircraft Flying」Lakeh…

Streaming Schema Drift Discovery and Controlled Mitigation(ストリーミング・スキーマ・ドリフトの発見と制御された緩和)

…素化とスキーマ推論 DatabricksのAuto Loaderを使ってデータ処理を簡素化し、JSON形式のデータに対するスキーマ推論の方法について解説がありました。データの正確性と一貫性を維持することが重要であることを強調し、スキーマドリフトの問題を解決するためのツールや戦略が提供されました。 DatabricksのAuto Loaderとは DatabricksのAuto Loaderは、データの読み込みや処理を効率化するための機能です。以下のような特徴があります。 デー…

Why a Major Japanese Financial Institution Chose Databricks to Accelerate its Data and AI-Driven Journey

…ion Chose Databricks to Accelerate its Data and AI-Driven Journey." In this presentation, the vision of NTT Data and the Trusted Data Foundation, which aims to democratize data and AI using Databricks, were introduced. The contents are very…

Why a Major Japanese Financial Institution Chose Databricks to Accelerate its Data and AI-Driven Journey(日本の大手金融機関がデータとAI主導の旅を加速するためにDatabricksを選んだ理由)

…ion Chose Databricks to Accelerate its Data and AI-Driven Journey」について解説します。この講演では、NTT Dataのビジョンと、Databricksを活用したデータとAIの民主化を目指すTrusted Data Foundationの事例が紹介されました。データ分析やAIに興味のある企業の経営者や担当者、クラウドサービスやビッグデータに関心のある技術者にとって、非常に興味深い内容となっています。 NTT Da…

Making Travel More Accessible for Customers Bringing Mobility Devices

Introduction This is Abe from the Lakehouse Department of the GLB Division. I wrote an article summarizing the content of the session based on the report by Mr. Kanamaru, who is participating in Data + AI SUMMIT 2023 (DAIS) on site. Article…

Scaling Deep Learning Using Delta Lake Storage Format on Databricks

Introduction I'm Sasaki from the Global Engineering Department of the GLB Division. I wrote an article summarizing the contents of the session based on the report by Mr. Nagae, who is participating in Data + AI SUMMIT2023 (DAIS) on site. Ar…