LayerX Inc. AI/LLMOps TechLead. Interested in Information Retrieval. graduated from Nagoya Univ.
東京
Joined April 2012
- Tweets4.2K
- Following2.8K
- Followers4.9K
- Likes2K
Pinned Tweet
本日発売のSoftware DesignのローカルLLM特集の第4章を担当しました。社内へ展開するローカルLLM基盤をどう考え、どう作るかについて書きました！📝📝
Software Designへの寄稿はいつかやってみたいと思っていたので叶ってよかったです！
gihyo.jp/magazine/SD/archive…
おお！日本語になったんだ！！買うか。
【新刊】
『実践ドメイン特化ローカルLLM』
巨大AIモデルに依存しない、ローカルLLMを開発・運用するための実践的な手法を解説！
情報漏洩リスクや利用コストを抑えつつ、特定の分野に特化したAIシステムを構築したいエンジニア必読の一冊です。
↓予約はこちらから
amazon.co.jp/dp/4798196061
anさんの文章毎回ヤバいわ。魂を震わせてくる。AIでコードを書かなくなったなーって人は必見すぎる。
note.com/cap120/n/nd766ccccc…
これ英語版で読みましたがとても良かったです！！日本語版でても買うぞ！！
12/10(木)発売予定の新刊『Kubernetesで動かす生成AI ―大規模言語モデルの本番運用』の情報をAmazonおよび楽天ブックスで公開開始しました。Kubernetesに巨大でGPUを占有するLLMを持ち込むとコスト暴騰等様々な問題が生じます。本書はその衝突を安全に着地させる処方箋です！
amazon.co.jp/dp/4814401892
Haiku5.5やSonnet5.5とJevの比較はJevの優位な点を理解するのにとても参考になった。
pub.towardsai.net/can-jev-re…
Haiku 5.5が出てQwen3.8 27BなどのローカルLLMを使う価値はあるのか？という記事。
こういう議論が出てくるくらいローカルLLMの主戦場にHaikuやLunaが染み出してきてるんだよな。僕はローカルLLMの方が好きだが、サービスに組み込むなら確かにHaikuやLunaが便利ではある。
medium.com/data-science-coll…
RaftのQuorumを？decision modelで？やばいこと言ってる。好き。
We replaced Raft with a JEV-style decision model.
Consensus is fundamentally a reasoning problem. Why rely on deterministic leader election when a model can evaluate each node's leadership potential?
We've replaced quorum with confidence scores.
Write throughput dropped 99.98% but the cluster is finally making informed decisions.
AIの失敗分析だとこのErrorMapも参考になる。個別分析 -> 統合の流れは結構見る。
arxiv.org/abs/2601.15812v2
AIの失敗分析の話。Open Codingの部分を人間がやるという話だが、ここをAIでできたらだいぶ楽できそうだけど、ドメイン知識とかも必要で難しいんだろうな。
hamel.dev/blog/posts/evals-f…
良い記事だった。新規開発とかで急いで開発してるとシャドウモード検証とかは飛ばしがちだけど、リスクが高いものはやるべきだよな。
あと耳タコだけどソフトウェアへのループ組み込みだよなー。各社Tryしてるはずなのでどうやってるか気になる。
parseur.com/blog/hitl-best-p…
今週もLayerX機械学習勉強会やりました！！僕からはQwen3.8-Flash-Next 絶対動かすマンとして知られるStrataの仕組みについて紹介しました。他にもjina-reranker-v3.5、Sakana AIのQD-Recが紹介されました。
#LayerX機械学習勉強会
pages.layerx.co.jp/3fdcdd370…
社内の最強Backfround Coding Agent基盤です。
僕の使い方だと、ミドルウェア込みでのAI Agent並列オフライン評価&改善、オンライン評価からの自動修正、夜間自動ETなど、常時裏で動いてて欲しい系を回しまくってる。また機会あったらブログにします。
tech.layerx.co.jp/entry/why-…
SQLのスカラー関数をGPUで動かすために、既存のC++コードをMLIR経由したのちに。自動で最適化されたGPUカーネルに変換するコンパイラ作ったという論文。ひえーーーー
microsoft.com/en-us/research…
暇なので VLDB 論文漁りしてる。
この論文はキャッシュ昇格操作を減らしつつ、miss率を同等以上に抑える D-FR と AGE を提案。昇格1回でどれだけmissを削減したかという軸で各種手法を分析してて普通に勉強になった。良い論文。
arxiv.org/abs/2608.29993
文書からビジネスルールを抽出し、それらを意図的に侵害するエッジデータを自動生成するやつ。複雑なルールや手順のあるバックオフィス系業務の自動化とかに使えそうな雰囲気。
arxiv.org/abs/2609.24115
良いプロダクトを作る人たちってこういう熱量があるんだよな。この自信と納得はいい仕事をしてないと出てこない。
📣 新作YouTube公開
「バクラク人事労務」のリリースを記念し、HCMグループ 事業責任者の吉田（@takkyy07）とバクラク事業部CPOの榎本（@mosa_siru）、労務担当兼ドメインエキスパートの村田が、AIネイティブな年末調整や給与計算の開発秘話を語りました！
📺本編はこちら
youtu.be/6K4rA-bSrUA?si=B9If…
そうだよな。本当そう。最近AIに慣れてきてAIの限界を自分で決めてしまっているかもしれない。
ジョニー・ジョースターの「もっと気高く『飢え』なくては！」って名台詞を思い出した。
felixrieseberg.com/how-to-be…
