LayerX エンジニアブログ

LayerX の エンジニアブログです。

MLOps

安定したAIエージェント開発・運用を実現するLangfuse活用方法

こちらは LayerX AI Agentブログリレー 3日目の記事です。 2日目の記事は Kenta さんによる 手触り感のあるContext Engineering でした。社内でもトップクラスに手を動かしているKentaさんならではの記事でした。そちらもおすすめです!! こんにちは。バク…

Temporal Knowledge Graphで作る!時間変化するナレッジを扱うAI Agentの世界

こちらはLayerX AI Agentブログリレー1日目の記事です。 こんにちは、Hiromu Nakamura (pon) です。 LayerXでAI/MLOpsをやってます! 最近はAI Agentの開発の中で、個人的にTemporal Knowledge Graphに注目しています。今回は関連論文や技術を紹介しつつ、私…

LangfuseのTrace書き込み失敗から学ぶLLMOpsを支える技術

Trace書き込み失敗調査を行い、Langfuseの安定性を向上させました。その際に調べたLangfuseを支える裏側の技術について解説し、実際にどのような対策をしたのかお話しします。

LLMが苦手な麻雀点数計算問題生成タスクの精度を33%から90%に上げたMulti Agentの力

LLMが苦手な麻雀点数計算問題生成タスクの精度を33%から90%に上げた話をします。「無数の選択肢の組み合わせを考えるタスクだが、正解は検証できる」という特性を持つタスクの精度を上げるノウハウを共有します。

Vertex AI PIpelinesでの実験を加速させるためのTIPS #LayerXテックアドカレ

この記事は、LayerX Tech Advent Calendar 2024 の 5 日目の記事です。 tech.layerx.co.jp こんにちは。バクラク事業部のAI-OCRグループでTech Leadをしている島越 (@nt_4o54)です。 今回は、Vertex AI Pipelinesを用いてチームで実験を行う際のTIPS的なもの…

TensorRTとTriton Inference Serverで推論サーバの性能を劇的に改善し本番導入した話

機械学習エンジニアの吉田です。前回は NVIDIA Triton Inference Server の性能を検証した話を書きましたが今回はその続編となります。 tech.layerx.co.jp 前回の記事以降も継続してTriton Inference Serverの検証を重ねた結果、推論サーバの性能を大幅に改…

バクラクはMLOpsエンジニアを必要としています

こんにちは。機械学習チームでソフトウェアエンジニアをしているTomoakiです。 バクラクはMLOpsエンジニアを必要としており、今回はバクラクでMLOpsをやる面白さや現状抱えている課題について紹介します。 バクラクとは bakuraku.jp バクラクは経費精算、稟…

AI-OCRパイプラインのレイテンシーモニタリングをDatadogで爆速構築した話

この記事は MLOps Advent Calendar 2023 の22日目の記事になります。 こんにちは、バクラクの機械学習チームでソフトウェアエンジニアをしているTomoakiです。 あらゆる点でコスパが最強すぎて最近毎日鍋を食べています。今日はちゃんこ鍋ぽい何かをグツグツ…

Web系ソフトウェアエンジニアが機械学習エンジニアに囲まれて働く面白さ

この記事はLayerXテックアドカレ2023の2日目の記事です。 昨日はconvtoさんが「つくってまなぶ静的解析のすすめ」を書いてくれました。 次回はData&ML部の部長のgiwaさんが渾身の記事を書いてくれます。 こんにちは、未来の希望を実装したいTomoakiです。 今…

アノテーションなのに手入力ゼロ!?バクラクのOCRを支えるアノテーション基盤(アプリケーション編)

こんにちは、全ての経済活動をデジタル化したいTomoakiです。 今回はバクラクで内製しているアノテーション基盤を紹介します。 バクラクのOCR バクラクでは請求書や領収書をはじめ、国税関係書類に対してOCRを実行し入力のサジェストを行うことで、ユーザー…