APC 技術ブログ

株式会社エーピーコミュニケーションズの技術ブログです。

株式会社 エーピーコミュニケーションズの技術ブログです。

Databricks の検索結果:

Delta Sharing: The Key Data Mesh Enabler Part 2 (デルタ共有: 主要なデータ メッシュ実現要因 Part 2)

はじめに ​​GLB事業部Global Engineering部 ヨハンです。 ​ 今回は、データメッシュとDelta Sharingについての講演「Delta Sharing: The Key Data Mesh Enabler」を取り上げます。講演者は、AvanadeのデータエンジニアリングディレクターであるFrancesco Pizzolong氏です。彼は、銀行、小売、交通、エネルギー、公共セクターなどの業界で12年以上のデータエンジニアリングの経験を持っています。 ​…

Delta Sharing: The Key Data Mesh Enabler Part 1

Introduction ​This is Johann from the Global Engineering Department of the GLB Division.​ In this article, we will discuss the presentation "Delta Sharing: The Key Data Mesh Enabler," which explains the enablers of data mesh. This presentat…

Delta Sharing: The Key Data Mesh Enabler Part 1 (デルタ共有: 主要なデータ メッシュ実現要因 Part 1)

はじめに ​​GLB事業部Global Engineering部 ヨハンです。 ​ 今回は、データメッシュのエンエーブラーについて解説する講演「Delta Sharing: The Key Data Mesh Enabler」を取り上げます。この講演では、データメッシュの主要なエンエーブラーであるDelta Sharingについて、英国の原子力発電所建設プロジェクトにおけるデータプラットフォームの構築事例を紹介しています。 ​ 本ブログは全2部構成で、今回は第1部をお届けしま…

Microsoft | Next-Level Analytics with Power BI and Databricks

…er BI and Databricks ​This is Johann from the Global Engineering Department of the GLB Division. ​ I would like to provide an easy-to-understand explanation of Microsoft's presentation "Next-Level Analytics with Power BI and Databricks." Th…

Microsoft | Next-Level Analytics with Power BI and Databricks (マイクロソフト | Power BI と Databricks による次のレベルの分析)

Power BIとDatabricksがもたらすデータイノベーション ​​GLB事業部Global Engineering部 ヨハンです。 ​ 今回は、Microsoftの講演「Next-Level Analytics with Power BI and Databricks」について、わかりやすく解説していきたいと思います。この講演では、Power BIとDatabricksのパートナーシップによるデータイノベーションの推進と、誰でも成功できるようにすることがテーマとされて…

Data + AI Summit 2023 Keynote Day 2 Part 3

Practical Limitations and Potential Benefits of AI - Data + AI Summit Keynote Day 2 ​This is Johann from the Global Engineering Department of the GLB Division. ​ Today, we bring you a report from the Data + AI Summit Keynote Day 2, which is…

Data + AI Summit 2023 Keynote Day 2 最新発表情報 Part 3

AIの実用的な限界と潜在的な利点 - Data + AI Summit Keynote Day 2 ​ GLB事業部Global Engineering部 ヨハンです。 Data + AI Summit Keynote Day 2のレポートをお届けします。今回は、AIの実用的な限界と潜在的な利点についての話題が盛りだくさんです。前回の記事では、データとAIの民主化に向けた取り組みや技術革新について語られました。今回は、AIがどのように私たちの生活に影響を与え、世界を救う可能性…

Data + AI Summit Keynote Day 2 Part 2

…arning at Databricks, and Mark Andreessen, a developer of Mosaic and Netscape, which democratized the internet, and currently an active leader in the field of artificial intelligence. ​ This blog is divided into two parts, and this time, I …

Data + AI Summit 2023 Keynote Day 2 最新発表情報 Part 2

…た。講演の発表者は、DatabricksのMachine LearningディレクターであるBrooke Winnigさんと、インターネットの民主化を実現したMosaicやNetscapeの開発者であり、現在は人工知能分野のリーダーとして活躍しているMark Andreessenさんです。 ​ このブログは全3部構成で、今回は第2部をお届けします。それでは、さっそく講演の内容を見ていきましょう! ​ データとAIサミットの紹介 ​ データとAIサミットは、データチームが知識を…

Data + AI Summit Keynote Day 2 Part 1

Discussing the Future and Evolution of AI at the Data + AI Summit Keynote Day 2 ​This is Johann from the Global Engineering Department of the GLB Division. ​ Hello, everyone. Today, I would like to talk about the presentations at the Data +…

Data + AI Summit 2023 Keynote Day 2 最新発表情報 Part 1

AIの将来と進化について議論されたData + AI Summit Keynote Day 2 ​​GLB事業部Global Engineering部 ヨハンです。 今回は、Data + AI Summit Keynote Day 2の講演についてお話ししたいと思います。この講演では、AIの将来と進化について話し合い、AIの価値や課題について議論が行われました。発表者は、Field Engineeringの創設者でありシニアバイスプレジデントのArsalan Tavakoli…

The Hitchhiker's Guide to Delta Lake Streaming

Introduction This is May from the GLB Division Lakehouse Department. I will share "The Hitchhiker's Guide to Delta Lake Streaming" on improving the data collection process, as reported by members attending the Data + AI SUMMIT2023 (DAIS) in…

Delta Live Tables A to Z: Best Practices for Modern Data Pipelines Part 1

Introduction I'm Sasaki from the Global Engineering Department of the GLB Division. I participated in the local Data + AI SUMMIT2023 (DAIS) and wrote an article summarizing the content of the session. Articles about the session at DAIS are …

Real-Time Streaming Solution for a Call Center Analytics: Business Challenges and Technical Enablement

…and using Databricks jobs for data acquisition and visualization. Agent performance management and report development Two operational reports have been developed for call center agents to use to manage their performance during work hours. T…

The Hitchhiker's Guide to Delta Lake Streaming(Delta Lakeストリーミングについてのヒッチハイカーズガイド)

はじめに GLB事業部Lakehouse部のメイです。 現地でのData + AI SUMMIT2023(DAIS)に参加しているメンバーの報告をもとに、データ収集プロセスの改善ついての「The Hitchhiker's Guide to Delta Lake Streaming」を共有します。このセッションでは、シニアソフトウェアエンジニアであり、Spark Delta OSSコントリビューター、Delta OSSコントリビューターのScott Haines氏とシニアソーシ…

The Future of Data Management and Governance

…eloped by Databricks is groundbreaking in that it can pull data from various systems such as Postgres and MySQL and push down almost 95% of queries. This greatly improves the efficiency of data analysis and data processing, and enables fast…

Embracing the Future of Data Engineering: The Serverless, Real-Time Lakehouse in Action

…zation of Databricks with smartphone data analysis demo Frank introduced how to reproduce the problem solved by Google with Databricks and analyze smartphone data. Databricks is a data engineering platform that utilizes big data and AI to e…

The Future of Data Management and Governance(データ管理とガバナンスの未来)

…シュダウンが可能に Databricksが開発したクエリプランナーは、PostgresやMySQLなどのさまざまなシステムからデータを引き出し、クエリのほぼ95%をプッシュダウンできるという画期的なものです。これにより、データ分析やデータ処理の効率が大幅に向上し、より高速なデータアクセスが可能になります。 まとめ 今回の講演では、データ管理とガバナンスの未来について説明され、Lakehouse Federationが紹介されました。また、クエリプランナーの革新により、データア…

Embracing the Future of Data Engineering: The Serverless, Real-Time Lakehouse in Action(サーバーレスとストリーミングデータを活用したデータエンジニアリングの未来)

…データ分析デモによるDatabricksの活用 Frankさんは、Googleが解決した問題をDatabricksで再現し、スマートフォンのデータを分析する方法を紹介しました。Databricksは、ビッグデータやAIを活用したデータエンジニアリングのプラットフォームで、データの収集、分析、可視化を効率的に行うことができます。 サーバーレス技術の利点とAWS Lambdaの説明 サーバーレス技術は、データエンジニアリングの未来を拓く重要な要素です。サーバーレス技術の利点は以下…

Fine Tuning and Scaling Hugging Face with Ray AIR

Introduction I'm Sasaki from the Global Engineering Department of the GLB Division. I wrote an article summarizing the content of the session based on the report by Mr. Gibo, who is participating in Data + AI SUMMIT2023 (DAIS) on site. Arti…

Data Biases and Generative AI: A Practitioner Discussion

…ized that Databricks values ​​diversity and introduced the company's efforts. Minimize data bias and evaluate metrics Data bias is a phenomenon in which AI cannot make accurate predictions and judgments due to bias in the data set. In this …

The Best Data Warehouse is a Lakehouse: How Databricks Achieves Operational Efficiency With the Lakehouse Architecture

…Share How Databricks Achieves Operational Efficiency With the Lakehouse Architecture. The session was led by Databricks CIO Naveen Zutshi and Senior Director of Data Analytics and Integration Engineering Romit Jadhwani. The theme of the tal…

Learn How to Reliably Monitor Your Data and Model Quality in the Lakehouse

… was with databricks Alkis Polyzotis (Technical Lead, Meachine Learning) and Kasey Uhlenhuth (Staff Product Manager). The talk introduced Lakehouse Monitoring, which was developed to solve the problem of data engineering and data science te…

Lakehouses: The Best Start to Your Graph Data and Analytics Journey

… Moore of Databricks, Lead Specialist Solutions Architect. This talk covered the challenges of graph databases and their potential machine and deep learning support, with Lakehouses being the best start to your graph data and analytics jour…

How to Build LLMs on Your Company’s Data While on a Budget

…ialist at Databricks. ​ In addition, the lecture is aimed at engineers interested in data and AI, data scientists in companies with limited budgets, and business owners who want to utilize their own data. ​ ​ How to build and customize larg…

Data Application Bundles: A Standard, Unified Approach to Deploying Data Products on Databricks

…oducts on Databricks" based on reports from members participating in the local Data + AI SUMMIT2023 (DAIS). This session introduces Databricks Asset Bundles, a new standard approach to deploying data products on Databricks. I'll walk you th…

Best Practices for Running Efficient Apache Spark™ Workloads on Databricks

…kloads on Databricks" Here's an overview of the talk "Best Practices for Execution". Best practices for efficient Apache Spark workload execution with Databricks In this talk, he explained how to run efficient Apache Spark workloads using D…

What’s New in Databricks Workflows -- With Live Demos

…atures of Databricks People! Data analysis is now dramatically more efficient ​ This time, we covered the lecture "What's New in Databricks Workflows -- With Live Demos" that introduces the latest features of Databricks People. The speaker …

Streaming Schema Drift Discovery and Controlled Mitigation

…ow to use Databricks Auto Loader to simplify data processing and how to infer schemas for JSON formatted data. It emphasized the importance of maintaining data accuracy and consistency, and provided tools and strategies to solve the problem…

LLMOps: Everything You Need to Know to Manage LLMs

…anager at Databricks. The theme of the talk is to provide the necessary knowledge to bring LLMs (Large Language Models) into production. The target audience is techies interested in data & AI, and anyone interested in putting LLMs into prod…