Langfuseとは何をするツールなのか
LLMアプリの「中で何が起きたか」を記録するプラットフォーム
室谷代表取締役Langfuse、ひとことで言うとLLMアプリのブラックボックスを開ける道具なんですよね。モデル呼び出しもツール呼び出しも検索も、全部トレースとして階層で残る。
何が起きたかを後から追える状態にする基盤です。
何が起きたかを後から追える状態にする基盤です。
テキトー教師DotAI 認定講師現場でよく聞くのが「動いてるけど、なんでこの答えになったか分からない」なんですよ。プロンプトを変えたら急に精度が落ちた、というときに原因を探る手がかりがゼロなんです。
室谷代表取締役そこを埋めるのがLLMOpsと呼ばれる括りで。トレーシングに加えてプロンプト管理、評価、データセットと実験、Playgroundまで1つの製品に入ってる。
開発元はドイツ発のLangfuse GmbHで、2023年の初めから開発が始まったと聞いてます。
開発元はドイツ発のLangfuse GmbHで、2023年の初めから開発が始まったと聞いてます。
テキトー教師DotAI 認定講師なるほど、バラバラのツールを繋ぎ合わせるんじゃなくて、最初から1つの製品として設計されてるんですね。
MITライセンスで公開されているオープンソースであること
室谷代表取締役このツールの面白いところが、コアがMITライセンスのオープンソースなんですよ。自前でホストしても主要APIは無制限で使える。
SaaSに閉じない設計なのが、導入を決める側としては大きい。
SaaSに閉じない設計なのが、導入を決める側としては大きい。
テキトー教師DotAI 認定講師初めて触る人がまず驚くのがそこですよね。「これ全部オープンなの」という反応が多い。
ただSSOや監査ログ、データ保持ポリシー、プロジェクト単位のRBACといったEnterprise Editionは商用ライセンスのままです。
ただSSOや監査ログ、データ保持ポリシー、プロジェクト単位のRBACといったEnterprise Editionは商用ライセンスのままです。
室谷代表取締役そう、全部が無料なわけじゃない。境界線がはっきりしてるのはむしろ健全で、事業として続く前提があるということなんですよね。
コアと商用の切り分けを先に押さえておくと判断を間違えにくい。
コアと商用の切り分けを先に押さえておくと判断を間違えにくい。
テキトー教師DotAI 認定講師たしかに。境界を知らないまま「OSSだから何でも無料」と思い込むと、後で詰まりますからね。
2025年6月のOSS化で何がオープンになったのか
室谷代表取締役で、2025年6月の発表で一気に風向きが変わってるんですよ。それまで一部クローズドだった機能がMITライセンスで開放された。
Managed LLM-as-a-Judge Evaluator、Annotation Queue、Prompt Experiment、LLM Playgroundあたりが対象です。
Managed LLM-as-a-Judge Evaluator、Annotation Queue、Prompt Experiment、LLM Playgroundあたりが対象です。
テキトー教師DotAI 認定講師評価まわりが開いたのが大きいですよね。プロンプトを試す場所と、出力を判定する仕組みが揃って初めて改善のループが回るので。
室谷代表取締役経営目線で言うと、そのループを自前で組むか既製品で買うかの判断なんですよ。ここが丸ごとオープンになったぶん、内製でやる選択肢のコストが現実的な数字になってきた。
テキトー教師DotAI 認定講師現場感覚でも、評価の仕組みをゼロから作るのは気力が要るので、そこが最初から入っているのは助かりますね。
2026年1月にClickHouseの傘下に入った現在の運営体制
室谷代表取締役最新の企業背景として外せないのが、2026年1月に分析データベース企業のClickHouseの傘下に入ったことなんですよね。公式トップにも「Langfuse joins ClickHouse」と出ていて、AIエンジニアリング基盤を作り続けるという方針は変わっていないと書かれています。
テキトー教師DotAI 認定講師買収と聞くと身構える人もいますけど、トレースの集計を支えているのがClickHouseなので、組み合わせとしては自然に見えます。
室谷代表取締役業界構造で見ても、可観測性のレイヤーがデータ基盤側に吸収されていく流れは理解しやすい。ただ、既存の解説記事はこの買収に触れていないものが多いので、情報の鮮度には注意してほしいところです。
テキトー教師DotAI 認定講師たしかに、少し前の記事を読むと運営体制の前提がずれてることがありますからね。
主要機能は何がある？トレーシングから評価まで
トレーシングでLLM呼び出しやツール実行を階層的に追う
室谷代表取締役まず核になるのがトレーシングですね。LLMの呼び出し、ツール実行、RAGの検索なんかを階層構造のトレースとして記録してくれる。
どのステップで何が起きたか、あとから一本道で追えるんですよ。
どのステップで何が起きたか、あとから一本道で追えるんですよ。
テキトー教師DotAI 認定講師現場でよく聞くのが「エージェントが変な答えを返したけど、どこで転んだか分からない」なんですよね。ログを目で追うと、まさに迷宮なんですよ。
室谷代表取締役そこにユーザー単位・セッション単位で絞れて、コストやレイテンシでも切れる。障害対応の初動が変わるんですよね。
デバッグ工数を時給で換算すると、見えているかどうかだけで月の数字が変わりますから。
デバッグ工数を時給で換算すると、見えているかどうかだけで月の数字が変わりますから。
テキトー教師DotAI 認定講師可視化って精神論じゃなくてコストの話なんですね。そこは腹落ちしました。
プロンプト管理でコードから切り離してバージョンを切る
テキトー教師DotAI 認定講師次に効くのがプロンプト管理です。プロンプトをコードから切り離してバージョンを切れる。
ワンクリックでデプロイもロールバックもできるんですよ。
ワンクリックでデプロイもロールバックもできるんですよ。
室谷代表取締役これ、地味に見えて組織だとかなり効きますよね。エンジニアがデプロイしないと文章を直せない状態だと、改善の回転数が落ちる。
プロンプトの変更がリリース工程に縛られると、試行回数そのものが減るんですよ。
プロンプトの変更がリリース工程に縛られると、試行回数そのものが減るんですよ。
テキトー教師DotAI 認定講師実装とプロンプトが同じリポジトリにあると、ちょっとした文言修正のたびにレビュー待ちが発生しますからね。分けておくと、担当が分かれていても事故が減る気がします。
評価とデータセット・実験で品質を回し続ける
室谷代表取締役評価は LLM-as-a-Judge、ヒューリスティック関数、人手レビューに対応していて、本番データにも実験データにも実行できる。品質を勘じゃなく数字で回せるわけです。
テキトー教師DotAI 認定講師初めて触る人が戸惑うのが、モデルを替えたときの比較の作り方なんですよね。データセットと実験の仕組みがあると、同じ入力で並べて比べられる。
これが無いと、変更のたびに感覚で判断することになります。
これが無いと、変更のたびに感覚で判断することになります。
室谷代表取締役業界構造で言うと、モデルは数ヶ月で入れ替わる前提なんですよ。乗り換えのたびに同じ土俵で測り直せるかどうかが、その後のスピードを分けますね。
Playgroundと人手アノテーションの使いどころ
室谷代表取締役で、Playgroundは本番の入力を使ってプロンプトを試せる。モデルを横並びで比較できるので、判断が早いんですよね。
テキトー教師DotAI 認定講師人手アノテーションも同じ流れで使えるのが面白いところで。トレースをチームでレビューして、正解データを作っていける。
最初に戸惑うのが、誰がどこで見るかの役割分担なんですけど、そこが仕組みとして用意されているのは大きいです。
最初に戸惑うのが、誰がどこで見るかの役割分担なんですけど、そこが仕組みとして用意されているのは大きいです。
室谷代表取締役これ、単体の機能がすごいというより、トレース・プロンプト・評価・実験が同じ製品に入っていることに価値があるんですよ。別々のツールをつなぐと、だいたいどこかでデータが途切れる。
Langfuseは統合されている前提で開発フローを組めるのが核なんですよね。
Langfuseは統合されている前提で開発フローを組めるのが核なんですよね。
料金はいくら？プランごとの違いとユニット課金の中身
HobbyからEnterpriseまでの金額と含有量
プラン別の料金・含有量・機能差
| 項目 | Hobby | Core | Pro | Enterprise |
|---|---|---|---|---|
| 月額 | 無料 | $29 | $199 | $2,499〜 |
| 含まれるユニット | 50,000/月 | 100,000/月 | 100,000/月 | 100,000/月 |
| 追加ユニット | — | $8/100,000 | — | 年間契約でカスタム価格も |
| データ保持 | 30日 | 90日 | 3年 | 3年 |
| ユーザー数 | 2ユーザーまで | 無制限 | — | — |
| セキュリティ・運用 | — | — | SOC2・ISO27001レポート、HIPAA対応リージョン | 監査ログ、SCIM、稼働率SLA、専任サポート |
室谷代表取締役まず金額の全体像、表で見た方が早いですね。
| プラン | 月額 | 含まれるユニット | データ保持 |
|---|---|---|---|
| Hobby | 無料 | 50,000/月 | 30日 |
| Core | $29 | 100,000/月（追加 $8/100,000） | 90日 |
| Pro | $199 | 100,000/月 | 3年 |
| Enterprise | $2,499〜 | 100,000/月（年間契約でカスタム価格も） | 3年 |
テキトー教師DotAI 認定講師ここで驚くのが、ProもEnterpriseも含まれるユニットはCoreと同じ10万/月なんですよ。上位プランの差は保持期間やレート制限、サポート、セキュリティ機能の方に出てきます。
室谷代表取締役そうなんですよね。3年保持とSOC2・ISO27001のレポート、HIPAA対応リージョンがProについてくる。
Enterpriseは監査ログ、SCIM、稼働率SLAに専任サポートエンジニア。経営目線だと、監査ログやSLAに月2,499ドルを払うかは、取引先がそれを求めるかで決まる話なんですよ。
Enterpriseは監査ログ、SCIM、稼働率SLAに専任サポートエンジニア。経営目線だと、監査ログやSLAに月2,499ドルを払うかは、取引先がそれを求めるかで決まる話なんですよ。
テキトー教師DotAI 認定講師Hobbyは2ユーザーまで、Coreは無制限。地味ですがここも見落としやすいところですね。
課金単位の「ユニット」は何を数えているのか
テキトー教師DotAI 認定講師最初に戸惑うのが「ユニット」の正体なんですよ。1リクエスト=1ユニットだと思ってると、集計画面を見たときに数字が合わなくて。
室谷代表取締役公式の定義だとTraces＋Observations＋Scoresの合計なんですよね。1回のユーザー質問でも、中のLLM呼び出しやツール呼び出しが増えればobservationが積み上がる。
テキトー教師DotAI 認定講師エージェントを組むほど膨らむ構造なんですね。現場感覚で言うと、ループの多い実装は思ったより早く消費します。
室谷代表取締役だから「どの機能が高いか」より「1トレースの中で何本イベントを吐いているか」を見た方がいいんですよ。
請求を抑えるために効く3つの調整
室谷代表取締役公式が案内している抑制策は3つで、トレース内の不要なobservationを減らす、サンプリングでトレース数を絞る、利用量アラートを設定する、なんですよね。
テキトー教師DotAI 認定講師アラートは地味ですが効きます。気づいたら想定の倍だった、みたいな事故を防げるので。
初めて触る人はまずそこから設定しておくといいですよ。
初めて触る人はまずそこから設定しておくといいですよ。
室谷代表取締役MYUUU の現場でも、全部のリクエストを残す必要は正直ないんですよ。開発中は全部、本番はサンプリング、くらいの切り分けで十分。
テキトー教師DotAI 認定講師削る前提で設計しておくと、あとから慌てなくて済みますね。
スタートアップ・学生・非営利・OSS向けの割引制度
テキトー教師DotAI 認定講師小さいチームだと見落としがちなんですが、割引制度もあるんですよね。
室谷代表取締役スタートアップは初年度50%オフ、学生・研究は最大100%オフ、非営利は月199ドル分のクレジット、OSSプロジェクトは初年度に月300ドル分のクレジット。該当するなら申請しない理由がない。
テキトー教師DotAI 認定講師学生・研究で最大100%オフは大きいですね。まず検証で触ってみたい層にはありがたい。
室谷代表取締役コストの話で言えば、この手のクレジットは該当確認をするだけで元が取れますからね。条件は公式で確認してほしいですが、申請は早めがいいです。
セルフホストは本当に無料？ライセンスの境界線
MITライセンスで無料になる範囲と商用ライセンスの境目
セルフホストのライセンス境界と機能範囲
| 機能・項目 | MITライセンス(OSS版) | Enterprise Edition |
|---|---|---|
| オブザーバビリティ | ○ | ○ |
| 評価(Evaluator) | ○ | ○ |
| プロンプト管理 | ○ | ○ |
| データセット | ○ | ○ |
| Annotation Queue | ○ | ○ |
| Prompt Experiment | ○ | ○ |
| LLM Playground | ○ | ○ |
| ユーザー数・プロジェクト数 | 無制限 | - |
| SSO | × | ○ |
| 監査ログ | × | ○ |
| データ保持ポリシー | × | ○ |
| プロジェクト単位のRBAC | × | ○ |
室谷代表取締役セルフホストの話、最初に整理しておきたいのがライセンスの線引きなんですよね。コアのオブザーバビリティ・評価・プロンプト管理・データセットはMITライセンスで、ユーザー数もプロジェクト数も無制限。
Cloudとまったく同じコードベースが自前で動くんですよ。
Cloudとまったく同じコードベースが自前で動くんですよ。
テキトー教師DotAI 認定講師そこ、現場でよく聞くのが「OSSなんだから全部無料でしょ」という受け取られ方なんです。実は2025年6月の発表で、それまで商用だったLLM-as-a-JudgeのEvaluatorやAnnotation Queue、Prompt Experiment、LLM PlaygroundもMITに切り替わっていて。
評価まわりの機能は自前で回せる範囲がかなり広がってるんですよね。
評価まわりの機能は自前で回せる範囲がかなり広がってるんですよね。
室谷代表取締役残ってるのがEnterprise Editionで、SSO、監査ログ、データ保持ポリシー、プロジェクト単位のRBACあたり。経営目線で言うと、これって「開発は止まらないけど稟議が通らない」タイプの機能なんですよ。
だからOSS版で技術検証して、全社展開のタイミングで商用を検討する順番が現実的で。
だからOSS版で技術検証して、全社展開のタイミングで商用を検討する順番が現実的で。
テキトー教師DotAI 認定講師たしかに。あとEnterpriseの見積もりはClickHouse CloudやBYOC、Privateの契約に加算される形のカスタム見積もりで、窓口は営業相談のみなんです。
ここは事前に押さえておかないと、予算設計のときに詰みます。
ここは事前に押さえておかないと、予算設計のときに詰みます。
Docker Composeでローカルに立ち上げる最短手順
室谷代表取締役で、実際に手を動かすところ。ローカル検証なら手順はこれだけです。
- 公式リポジトリを
git cloneする - ディレクトリ内で
docker compose upを実行する - 数分待つとWebアプリが起動するので、表示されたURLをブラウザで開く
テキトー教師DotAI 認定講師初めて触る人が最初に戸惑うのが、これだけで動いてしまうことなんですよね。「え、もう入ったの」って。
ただし公式が言っているのは単一VM向けのローカル検証用で、高可用性もバックアップも無い構成です。
ただし公式が言っているのは単一VM向けのローカル検証用で、高可用性もバックアップも無い構成です。
室谷代表取締役そこが一番の落とし穴で。「ローカルで動いたから本番もこれでいいじゃん」となるパターン。
検証環境と本番環境は最初から分けて考えるべきなんですよね。
検証環境と本番環境は最初から分けて考えるべきなんですよね。
本番運用はKubernetesとTerraformのどちらで組むか
室谷代表取締役本番の選択肢は公式が4段階で示していて、Cloud、Docker Compose、KubernetesのHelmチャート、TerraformのAWS/Azure/GCPという並びなんですよ。本番で推奨されているのはKubernetes。
テキトー教師DotAI 認定講師じゃあTerraformはどう使い分けるのかというと、クラウド基盤ごと構築する前提のものなんです。すでにTerraformでインフラを管理しているチームならそちら、アプリだけKubernetesに載せたいならHelm、という判断になりますね。
室谷代表取締役あとRenderやRailwayへのデプロイも選択肢として出てきますけど、これはコミュニティサポート扱いでLangfuse社の保証外。ここを本番の前提に置くのは、経営判断としてはちょっと怖いんですよね。
運用要員をどこに何名置くかで、結局コストはCloudと逆転したりしますし。
運用要員をどこに何名置くかで、結局コストはCloudと逆転したりしますし。
Web・Worker・PostgreSQL・ClickHouse・Redis・S3という構成の重さ
テキトー教師DotAI 認定講師自己ホストの現実的な重さで言うと、必要なバックエンドがWebアプリ、非同期処理のWorker、PostgreSQL、ClickHouse、Redis、S3互換オブジェクトストレージと分かれているんです。ここが「思ってたより多い」と感じるポイントで。
室谷代表取締役役割もバラバラで、PostgreSQLはトランザクション、ClickHouseはトレース集計のOLAP、Redisはキューとキャッシュ。1つ落ちたときの影響範囲がそれぞれ違うので、監視もバックアップも個別に設計する必要があるんですよ。
テキトー教師DotAI 認定講師だからチームによっては、まずCloudで使い始めて、データ統制が要件として上がってきた段階でセルフホストに移る、という順番のほうが失敗が少ないんですよね。
室谷代表取締役そこは同意で。無料かどうかだけで判断すると、無料じゃない部分の請求書が後から来るんですよ。
Langfuseの始め方、アカウント作成から最初のトレースまで
アカウント作成とAPIキーの発行まで
Langfuse導入から最初のトレースまでの流れ
- 01アカウント作成cloud.langfuse.com（日本リージョンは jp.cloud.langfuse.com）で作成。セルフホストは事前にDockerでインスタンス起動
- 02プロジェクト新規作成ログイン後にプロジェクトを作成。本番と検証を分けるとキーもダッシュボードも分離できる
- 03APIキー発行プロジェクト設定で Secret Key と Public Key を発行・控える
- 04SDKインストールpip install langfuse openai
- 05環境変数を設定LANGFUSE_SECRET_KEY / LANGFUSE_PUBLIC_KEY と、LANGFUSE_BASE_URL（EU: https://cloud.langfuse.com、US: https://us.cloud.langfuse.com、日本: https://jp.cloud.langfuse.com）
- 06@observe()で計測関数を @observe() でラップ。OpenAI SDK利用者は import元を langfuse.openai に差し替え
- 07Traces画面で確認トレース・セッション・コスト・レイテンシをダッシュボードで確認
cloud.langfuse.com（日本リージョンならjp.cloud.langfuse.com）でアカウントを作成する- セルフホストの場合は、その前にDockerでインスタンスを起動しておく
- ログイン後、プロジェクトを新規作成する
- プロジェクト設定を開き、Secret Key と Public Key を発行・控える
室谷代表取締役Langfuse、最初のハードルはそこまで高くないんですよ。アカウント作って、プロジェクト作って、キーを2本発行する。
ここまでで大半は終わりなんですよね。
ここまでで大半は終わりなんですよね。
テキトー教師DotAI 認定講師現場でよく聞くのは「キーがどこにあるのか分からない」なんですよ。アカウントを作っただけだと何も表示されなくて、プロジェクトを作って初めてトレースの画面が出てくるので。
室谷代表取締役プロジェクト単位でキーが分かれる設計なのが地味に効いてて。本番と検証でプロジェクトを分けておけば、キーもダッシュボードも自然に分かれるんですよ。
テキトー教師DotAI 認定講師たしかに。最初にそこを分けておくと、後でデータを混ぜずに済みますね。
SDKのインストールと環境変数の設定
pip install langfuse openaiでSDKを入れる- 環境変数
LANGFUSE_SECRET_KEYとLANGFUSE_PUBLIC_KEYに控えたキーを設定する - 環境変数
LANGFUSE_BASE_URLを、EUならhttps://cloud.langfuse.com、USならhttps://us.cloud.langfuse.com、日本ならhttps://jp.cloud.langfuse.comに設定する
室谷代表取締役SDKはPythonなら langfuse と openai を一緒に入れるのが最短なんですよ。で、環境変数が3つ。
キー2本と、接続先のURLですね。
キー2本と、接続先のURLですね。
テキトー教師DotAI 認定講師ここでつまずくのが、接続先のURLを入れ忘れて別リージョンに飛んでしまうパターンで。書いたデータがどこに置かれるかが変わってしまうんですよ。
室谷代表取締役それは地味に痛い。契約しているリージョンとデータの所在がずれるのは、後から監査で揉めるやつなので。
コード側じゃなく環境変数で切り替える設計なのも、そこは助かりますね。
コード側じゃなく環境変数で切り替える設計なのも、そこは助かりますね。
テキトー教師DotAI 認定講師そうなんです。コードは変えずに、環境ごとにURLだけ差し替えれば済みますから。
現行のv3では@observe()デコレータでラップする
室谷代表取締役実際の計測は
@observe() で関数をラップする。これだけでLLM呼び出しもツール呼び出しも階層で記録されていくんですよね。テキトー教師DotAI 認定講師OpenAI SDKをそのまま使っている人は、import元を
langfuse.openai に差し替えるだけでも拾えます。書き換える範囲がすごく小さいんですよ。室谷代表取締役で、ダッシュボードの「Traces」画面を開くと、トレースとセッション、コスト、レイテンシが並ぶ。ここまで来ると一気に解像度が上がるんですよ。
テキトー教師DotAI 認定講師最初の1本が通ると、みなさん「もっと早く見ておけばよかった」って言います。そこが分岐点ですね。
CallbackHandler方式は古い書き方として扱う
室谷代表取締役ただ注意があって。ネット上には
from langfuse.callback import CallbackHandler みたいな書き方の記事がまだ残ってるんですよ。テキトー教師DotAI 認定講師2024年ごろに書かれたものが多いですね。Python SDKが2025年6月にv3へ刷新されて
@observe() 方式に統一されたので、その書き方はもう最新の手順ではないんです。室谷代表取締役古い記事をそのまま写すと、動かないか、動いても今の機能を拾えない。技術選定というより情報の鮮度の問題なんですよね。
テキトー教師DotAI 認定講師公式のクイックスタートは今
@observe() で書かれています。そちらを起点にした方が早いです。日本リージョン「Langfuse Cloud Japan」で何が変わるか
東京リージョンが公開された意味とデータの保管場所
室谷代表取締役まず日本のリージョンの話からいきましょうか。2026年4月27日に、東京でホストする専用のクラウドリージョンが公開されてるんですよ。
AWSのap-northeast-1、要は東京ですね。
AWSのap-northeast-1、要は東京ですね。
テキトー教師DotAI 認定講師そこが効くのは、データの置き場所がはっきりする点ですよね。トレースもプロンプトも評価データも、国内のClickHouseに置かれたまま扱える。
室谷代表取締役そう。しかも機能はグローバル版とまったく同じものが使えると。
SOC2 TypeII、ISO27001、GDPRにも準拠してる。データの置き場所が国内ってだけで社内稟議の通り方が変わるんですよね。
金融系の案件とかだと特に。
SOC2 TypeII、ISO27001、GDPRにも準拠してる。データの置き場所が国内ってだけで社内稟議の通り方が変わるんですよね。
金融系の案件とかだと特に。
テキトー教師DotAI 認定講師現場感覚で言うと、そこが一番デカいんですよ。「海外のサーバーには送られません」と言えるかどうかで、話が先に進むか止まるかが決まるので。
物理的に近いぶん、体感のレスポンスも素直に効いてきます。
物理的に近いぶん、体感のレスポンスも素直に効いてきます。
接続先を東京に向けるだけで使える設定
jp.cloud.langfuse.comでアカウントを作成する- プロジェクトを作成し、設定画面でAPIキー（Secret Key・Public Key）を発行する
- SDKをインストールする（例:
pip install langfuse openai） - 環境変数
LANGFUSE_SECRET_KEY・LANGFUSE_PUBLIC_KEY・LANGFUSE_BASE_URLを設定する。LANGFUSE_BASE_URLはhttps://jp.cloud.langfuse.com - 関数を
@observe()でラップするか、OpenAI SDKをLangfuse版に差し替える - ダッシュボードの「Traces」画面でトレース・コスト・レイテンシを確認する
室谷代表取締役要するに、最初から日本で始めるなら接続先のURLを東京に向けるだけでいい、と。USだのEUだのを後から考える必要がないんですよね。
テキトー教師DotAI 認定講師ここで初めて触る人が必ず引っかかるのが、キーの3点セットなんですよ。Secret KeyとPublic KeyとBASE_URL、このうち1個でも欠けると黙って送信されないままになります。
室谷代表取締役エラーで落ちてくれれば気づくのに、静かに何も出ないのが一番たち悪いんですよね。最初の1本は必ずTraces画面まで見にいくべきです。
既存環境からの移行手順と国内パートナーの存在
室谷代表取締役すでに別リージョンやセルフホストで動かしてる場合、エクスポートして、インポートして、base URLを切り替える、という流れ。公式では4ステップの手順として案内されてます。
テキトー教師DotAI 認定講師最初に戸惑うのが、切り替えたあとにデータが二重に見えるんじゃないかという不安なんですよね。移行元と移行先を分けて考えれば落ち着きます。
室谷代表取締役で、日本ではガオ株式会社が正式なリセラー兼導入パートナーになってるんですよ。日本円での購買、JPYのインボイス、日本語でのオンボーディングとサポートまで。
経理実務の観点だとこれ、かなりデカいです。
経理実務の観点だとこれ、かなりデカいです。
テキトー教師DotAI 認定講師海外ベンダーにクレカで払うのを経理が嫌がる、あの流れが丸ごと消えますからね。
LayerXやfreeeなど国内での利用例
室谷代表取締役国内の利用例も公式ブログに載ってます。LayerXはバクラクのバックオフィスAIエージェントの評価とプロンプト実験、freeeは会計・人事プロダクト全体で使ってると。
テキトー教師DotAI 認定講師どちらも「本当に効いてるのか」を判断する材料が要るタイプのプロダクトなんですよ。バックオフィス系のAIって正解がひとつじゃないぶん、評価の設計が難しいので。
室谷代表取締役MYUUUの現場でも、プロダクトの外側から評価だけ差し込むとだいたい続かないんですよね。トレースとプロンプトが同じ場所にあるかどうかで、改善が回るかどうかが決まります。
LangSmithなど類似ツールと何が違うのか
LangSmithとの差はセルフホストの自由度
室谷代表取締役ここ、比較記事だと一番ぼやけるところなんですけど。LangSmithはLangChainのエコシステムに乗ってる人には強いんですよ。
ただ基本はSaaSで、自分のところに置けるのは限られたプランだけ・・・
ただ基本はSaaSで、自分のところに置けるのは限られたプランだけ・・・
テキトー教師DotAI 認定講師現場でも同じことを聞きます。「LangChain使ってるからLangSmithでいいのでは」と。
そこで止まっちゃう人が多いんですけど、そこで効くのが置き場所を選べるかどうかなんですよね。
そこで止まっちゃう人が多いんですけど、そこで効くのが置き場所を選べるかどうかなんですよね。
室谷代表取締役そう、コアがOSSで自前のインフラに置けるのが決定的な差なんです。金融とか医療の案件をやってると「外に出せません」で終わるので、そこで選択肢が消えるか残るかは事業判断レベルなんですよ。
テキトー教師DotAI 認定講師なるほど。機能表では並んでても、そもそも使えるかどうかの土俵が違うということですね。
HeliconeやLunaryと比べたときの粒度と機能量
室谷代表取締役Heliconeはプロキシを挟むだけで入るので、導入の軽さは圧倒的なんですよね。最初の一歩としてはかなり良い。
テキトー教師DotAI 認定講師初めて触る人は、設定の少なさに引っ張られがちです。ただエージェントが何段もツールを呼ぶような処理になってくると、「どこで何が起きたか」を追いきれない、という声を現場でよく聞きます。
室谷代表取締役そこで粒度の話になるんです。複雑な処理を階層で追えるかどうかで、デバッグにかかる人件費が変わってくる。
時給で換算すると、追えない時間がそのままコストなんですよ。
時給で換算すると、追えない時間がそのままコストなんですよ。
テキトー教師DotAI 認定講師Lunaryも軽くてシンプルなんですけど、評価機能やエージェント対応まで含めると物足りない、というのが実感に近いですね。
Phoenix・Braintrust・Arize・Datadogとの使い分け
室谷代表取締役PhoenixはRAGの評価に強い、という位置づけなんですけど、プロンプトのバージョン管理やライフサイクル全体をまとめて見るのは手薄なんですよね。
テキトー教師DotAI 認定講師評価だけ切り出したい人には刺さるんですけど、開発から本番運用まで一気通貫で見たい人には物足りない、という整理になりますね。
室谷代表取締役Braintrust、Arize、Galileo、Datadogも公式が比較対象として名前を挙げてるんですけど、細かい機能差は公開されてないんです。だから資料を並べて比べるより、自社の要件で絞った方が早いんですよ。
テキトー教師DotAI 認定講師そうなんですよね。表を見比べて決めるより、うちは何を追えればいいのかを先に決めた方が迷わないと思います。
自前運用かマネージドかで選ぶ判断軸
室谷代表取締役結局ここに戻るんですけど、自前で運用する前提なら運用要員のコストが乗るじゃないですか。マネージドはそこを月額に置き換えてるだけなんですよ。
テキトー教師DotAI 認定講師たしかに。運用を誰が持つかで、同じ機能でも全然違う選択になりますね。
小さいチームだと、そこが一番の分かれ目な気がします。
小さいチームだと、そこが一番の分かれ目な気がします。
室谷代表取締役なので機能比較表だけで決めると、後からインフラの面倒を誰が見るのかで揉めるんですよね。そこまで含めて見た方がいいです。
テキトー教師DotAI 認定講師機能の数より、置き場所と持ち主で選ぶ。その視点は忘れないようにしたいですね。
Langfuseのメリットとデメリット、どんなチームに向くのか
ブラックボックスを潰せる可視性と改善サイクル
Langfuseのメリットとデメリット
PROS ／ メリット
- LLM呼び出しのブラックボックス化を防げる可視性
- トレースが階層で残り、ツール呼び出しや検索のどこでズレたか追える
- 評価とデータセットが同じ製品に入り、可視化→改善→再測定の循環が一本につながる
- プロンプトや評価結果をチームで共有でき、属人化がほどける
- 評価まで自前で回したいフェーズのチームには刺さる
CONS ／ デメリット
- セルフホストはライセンス無料でも運用コストが別途かかる
- 構成要素が多い(Webアプリ、Worker、PostgreSQL、ClickHouse、Redis、S3互換ストレージ)
- Docker Composeはローカル検証向けで、本番はKubernetesかTerraformの話になる
- 機能が多岐にわたるぶん学習コストがじわっと効く
- 小規模チームだと機能群を持て余しがちで、画面の項目数に迷う
室谷代表取締役Langfuseの価値で一番デカいの、LLM呼び出しのブラックボックス化を防げる点なんですよね。中で何が起きたか見えないまま本番を回すのは、経営判断としてかなり怖いんですよ。
テキトー教師DotAI 認定講師現場感覚で言うと、最初に詰まるのが「なんでこの回答になったのか説明できない」状態なんですよ。トレースが階層で残ると、ツール呼び出しや検索のどこでズレたか一気に追えます。
室谷代表取締役しかも評価とデータセットが同じ製品に入ってるのが効くんです。見える化して終わりじゃなくて、直して、また測る。
この循環が一本につながってる。
この循環が一本につながってる。
テキトー教師DotAI 認定講師プロンプトや評価結果をチームで共有できるのも大きいですね。属人化がほどけていく感じがあります。
セルフホストの運用コストと学習コストという代償
室谷代表取締役ただ、セルフホストは無料なんですけど、無料なのはライセンスであって運用は別なんですよ。Webアプリ、Worker、PostgreSQL、ClickHouse、Redis、S3互換ストレージ…って、構成要素がかなり多い。
テキトー教師DotAI 認定講師ここ、ハマる人多いんですよ。Docker Composeだと数分で立ち上がるので「終わった」と思いがちなんですが、あれはローカル検証向けで。
本番はKubernetesかTerraformの話になってきます。
本番はKubernetesかTerraformの話になってきます。
室谷代表取締役うちの現場基準で言うと、人件費に換算した瞬間に「無料」の意味が変わるんですよね。誰かが面倒を見る前提のコストを、ちゃんと見積もってから決めるべきです。
テキトー教師DotAI 認定講師機能が多岐にわたるぶん、覚える側の学習コストもじわっと効いてきます。
小規模チームだと持て余しがちな機能群
室谷代表取締役機能の広さは諸刃で。オブザーバビリティ、プロンプト管理、評価、Playground、データセットと実験まで、最初から全部使い切るチームはそう多くない。
テキトー教師DotAI 認定講師初めて触る人は、画面の項目数に「で、どこから？」ってなるんですよね。まずトレースだけ見る、くらいの絞り方がちょうどいいと思います。
室谷代表取締役使わない機能のために構成を重くするのは本末転倒で。段階的に広げる前提で入れるのが現実的かなと。
テキトー教師DotAI 認定講師逆に、評価まで自前で回したいフェーズに入ってるチームには、かなり刺さるはずです。
導入を見送ったほうがいいケース
室谷代表取締役見送ったほうがいいのは、LLMをまだ本番に出していない段階。追いかける対象がないのに、運用だけ増えるのは悪手なんですよ。
テキトー教師DotAI 認定講師あとはSSOや監査ログが最初から必須で、かつ自前運用が難しいチーム。そこは商用ライセンスの領域なので、無料の範囲では完結しません。
室谷代表取締役マネージドで済ませたいならCloud、データ統制が最優先ならセルフホスト。判断軸は「誰が運用を握るか」に尽きると思います。
テキトー教師DotAI 認定講師小さく始めて、痛みが出たところで広げる。その順番が失敗しにくいですね。
よくある質問
Q1. オープンソース版とクラウド版で、できることに差はありますか？
室谷代表取締役Langfuse、セルフホストとクラウドのどっちを選ぶかで迷う人は多いんですよね。基本的な考え方は同じでも、運用の責任範囲はけっこう変わるんですよ。
テキトー教師DotAI 認定講師現場でよく聞くのは「同じ機能が全部そろってますか？」という不安です。細かい差分は公式の比較を見るのが確実で、最初から完全一致を前提にしない方がいいですね。
室谷代表取締役そうですね。検証はクラウドで軽く始めて、要件が固まったら自社環境に移す、みたいな順番が現実的だと思います。
Q2. 既存のアプリに後から入れられますか？
テキトー教師DotAI 認定講師初めて触る人が気にするのが、既存のアプリに後から入れられるのかという点です。トレースを送るための組み込みが前提なので、最初は一部の処理だけに絞るのがハマりにくいですね。
室谷代表取締役全部の処理をいきなり可視化しようとすると、たぶん続かないんですよ。まず一番見たいフローを1本選ぶ。
そこで効果が出るかを見る方が、投資判断しやすいです。
そこで効果が出るかを見る方が、投資判断しやすいです。
テキトー教師DotAI 認定講師たしかに。最初から全画面を見ようとすると、ログが増えて読む側が疲れますからね。
Q3. ログに個人情報が入る場合の注意点は？
室谷代表取締役Langfuseにはプロンプトや応答が流れるので、扱うデータの線引きは先に決めた方がいいんですよね。開発環境と本番で同じ感覚のまま送らないこと大事です。
テキトー教師DotAI 認定講師現場感覚で言うと、最初に「送っていい情報／伏せる情報」を決めておくだけでもだいぶ違います。マスキングや保存先の確認は、導入時のチェック項目に入れておきたいですね。
室谷代表取締役あと、誰が見られるかもセットで決める。ログは便利ですが、権限設計を後回しにすると事故のもとです。
Q4. 小さいチームだと運用負荷が重い？
テキトー教師DotAI 認定講師小さいチームだと、ツール自体よりも「見る時間を確保できるか」が課題になりがちです。最初に戸惑うのが、トレースが増えるほど全部追いたくなる点ですね。
室谷代表取締役運用負荷で言うと、セルフホストは自由度が高い代わりに面倒も自分たちで持つことになります。MYUUUみたいに人数が限られる現場だと、最初はマネージドに寄せる判断も普通にあります。
テキトー教師DotAI 認定講師そうですね。監視の対象を絞れば、小さく始めても十分回せます。
Q5. 導入効果はどう測ればいい？
室谷代表取締役効果を測るなら、障害対応の時間とか、原因調査に何回戻ったか、みたいな地味な指標が効くんですよね。時給で換算すると、派手な機能より調査時間の削減が見えやすいです。
テキトー教師DotAI 認定講師現場でよく聞くのは「入れたいけど、良くなったと言い切れるか不安」という声です。最初から全社指標にせず、1つのフローで比較するのが現実的ですね。
室谷代表取締役そう。導入前後で同じケースを見比べられるようにしておくと、判断しやすいです。
まとめ
室谷代表取締役Langfuseは、LLMアプリの挙動を追いやすくするための観測基盤なんですよね。派手な機能を足すというより、原因調査と改善のループを回すための道具です。
テキトー教師DotAI 認定講師たしかに。最初に触る人は機能の多さに圧倒されがちですが、まずは1つの処理をトレースして、そこで何が見えるかを体感するのが早いですね。
室谷代表取締役導入判断は、クラウドで小さく試すか、自社環境で持つかを分けて考える。料金と運用の負荷を並べて、自社の体制に合う方からでいいと思います。
テキトー教師DotAI 認定講師そうですね。全部を一度に整えようとせず、見たいフローを1本決めるところから始めると、現場も動きやすいです。
室谷代表取締役次のアクションは、既存のアプリのどこにトレースを入れるか、1箇所だけ決めること。そこからLangfuseの使い方が自分たちの言葉に変わるはずです。
