APC 技術ブログ

株式会社エーピーコミュニケーションズの技術ブログです。

株式会社 エーピーコミュニケーションズの技術ブログです。

LLM

会議録画を議事録に変える — MLX Whisper + AIで作るワンストップ分析ツール開発記

こんにちは。ACS事業部の越川です。 「会議の録画、もっと活用できないかな」 そんな問いから始まったツール開発の記録です。1時間の会議録画をコマンド一発で文字起こし・キャプチャ抽出・議事録生成まで自動化するスクリプトを作りました。その過程で、7回…

AIはあなたに同調する — Sycophancy問題を知っていますか③ 〜組織編〜

こんにちは。ACS事業部の越川です。 気づける人と気づけない人がいる — 知識パラドックス 組織で起きた「気づけなかった」事例 振り返りで見えた組織の課題 仕組み1: AIが自律的に判断できる領域を広げる 仕組み2: PoCをチームが使えるツールに昇格させる 仕…

AIはあなたに同調する — Sycophancy問題を知っていますか② 〜実践編〜

こんにちは。ACS事業部の越川です。 AIは「足りない」と言ってくれない 実践1: 複数のAIエージェントに評価させる 実践2: AIに「足りているか」の判断を委ねない 実践3: 人間のフィードバックをプロセスに組み込む 実践4: 相手のキャパに合わせて渡す量を調…

DatadogのLLM Observabilityを触ってみた 〜LLMアプリのブラックボックス化に怯えないために〜

こんにちは。クラウド事業部の遠見です。 本記事は、Datadogの「LLM Observability」を実際に検証したエンジニアが、内容をできる限り客観的に共有することを目的に作成しました。 AIが急速に発展し続ける中で、LLMアプリケーションの「見える化」は運用にお…

AIはあなたに同調する — Sycophancy問題を知っていますか① 〜問題提起編〜

こんにちは。ACS事業部の越川です。 前回の記事で、AIコーディングの「3つの負債」を防ぐ実践として、インストラクションファイルへの蓄積やフィードバックの記録を紹介しました。 techblog.ap-com.co.jp しかしその後、ある記事をきっかけに、自分が推奨し…

Google 「NotebookLM」を試す

目次 目次 はじめに NotebookLMとは 実際に操作してみる データの読み込み NotebookLMの起動画面 生成を使ってみる ブリーフィング・ドキュメントの出力結果 よくある質問の出力結果 質問の候補を使ってみる おわりに はじめに こんにちは。クラウド事業部の…

BackChatというプラグイン~LLMとPlatformEngineeringの一歩~

はじめに KubeCon2023にてBackstage上で様々な生成AIのサービスを利用できるBackchatというプラグインの登壇があり内部で話題になりました。 LLMをBackstage上で使う一つのユースケースとしての紹介とMVPの実装というものでした。 今回はBackChatについてお…

Geminiを使って手書きの構成図からTerraformファイルを作ろうとしてみた

LLM

こんにちは!ACSD松崎です。この記事は、Googleの新しい生成AIモデル、Geminiを使って手書きの構成図からTerraformの定義ファイルを作ろうとした際のメモになります。 Geminiとは 2023年12月7日に発表されたmade by Googleの生成AIです。2023年12月末現在、G…

小ネタ:ChatGPTにテストデータを生成してもらう

はじめに こんばんは、ACS事業部の東出です。 ひょんなことから、ChatGPTくんにテストデータを作ってもらいたいなと思って戯れてましたので、その内容を共有させていただきます。 やりたかったこと とある件で、コンタクトセンターのオペレーターさんの実績…

ChatGPTに複数の人格を生み出して議論させる方法

こんにちは!ACSD 松崎です。先日、ソフトバンクグループの孫正義さんがAIの講演を行い話題となりましたが、皆様はご存じでしょうか?関連する記事を読んでいて自分がおおっ!と思ったのは以下の部分でした。 孫氏も生成AIにのめり込んでいるようだ。ディベ…

GPT-4Vで構成図を元にAKSクラスタをデプロイするTerraformファイルを生成する

こんにちは!ACSD 松崎です。ChatGPT Plusに画像読み込み機能(GPT-4V)がリリースされてから数週間が経過しましたが、皆様もう試されましたでしょうか?今回はこちらの機能を使って、Azure Kubernetes Service(AKS)の構成図を元に、TerraformのIaCファイルを…

社内で3カ月ほどChatGPTを使ってみた結果わかったこと

こんにちは!松崎です。 本日は、社内で実施中のChatGPT活用の検証施策の 途中経過や得られた学びをシェアしたいと思います。 生成AIの社内活用取り組まれている方々の参考になれば幸いです。 1. 忙しい方向けのサマリ 2. 背景 3. 3カ月ChatGPT(有償)を使っ…

Llama_index v0.8.30: Indexに質問した際に、参照されたファイル名を取得する

LLM

こんにちは!ACSD松崎です。 Llama_index関連のブログ投稿の第三弾として、今回は、SimpleDirectoryReaderとGPTVectorStoreIndexを使ってファイルベースのFAQエンジンを作る際に回答に使われたドキュメントの情報を生成&回答に付与する方法を解説します。 …

Azure OpenAI Whisperの対応コーデックについて(ogaで起こせたよ)

注意事項 Azure OpenAI Whisperの対応コーデックが公式で示されているものに加えて、いくつかの記載されてないものにも対応しているということに気づいた事実をベースにGPT-4で生成したブログです。 実際の私とはだいぶ違う書き方なのですが、面白かったので…

Confluence Loaderを使い、Confluenceの内容に基づいて回答するSlack Botを作る

LLM

こんにちは!ACSD松崎です。 前回の記事では、Llama HubのConfluence RoaderをGoogle Colab上で動かしましたが、 今回はそこで得た学びを活かしてConfluenceの内容に基づき回答してくれるSlack Botを作ろうと思います。 作成するアプリケーションの概要 Slac…

Llama HubのConfluence LoaderをGoogle Colabで試す

LLM

こんにちはACSD松崎です。先月より、OpenAI APIを使ったアプリを色々と作って遊んでいますが、 従来のWebアプリケーション開発とは色々と感覚が違って面白いですね。 今回は、LlamaIndexとConfluence Loaderを使ってConfluce Cloud上の記事に基づいて、 質問…