DeploAI CTO / LLM好き 現場好き 統計×LLMで、確率的に最適にAIへ仕事を丸投げする人 DGX Spark x2・M5Stackの実機で試して、実測を公開 営業を科学するAI「Intelligent Sales」開発中 最適化数学、統計学勉強し直し中 Founder, スタートアップ経営2社目
Joined December 2016
- Tweets2.3K
- Following392
- Followers445
- Likes3K
Pinned Tweet
自宅LinuxサーバーのExt4がぶっ壊れて起動しなくなった
BIOSからUSBのUbuntu立ち上げてAIに聞きながら手で直したけど、こういうのもう全部AIにぶん投げたい
ってことで M5Stack Tab5 で画面撮って、USBキーボードとして打たせるやつ作った
BIOSでも動く
zenn.dev/sodeyama/articles/t…
蒸留ではない方法で、オープンを素材にして自社のクローズドモデルを作る時代になりそうだなー
直近のMITの実験。GPT-6 Astraが、勾配による学習なしにQwen3.5の重みを直接書き換えて改善した
実際に再現試験してみたけど比較的低スペックの計算資源で実現可能だし
最先端のクローズドで、オープンウェイトを自社向けに加工して各社特化の知性を作っていく流れが来る可能性ありそう
国産の翻訳特化モデル PLaMo 3 Translate を、手持ちの汎用 ローカルLLM と日英翻訳で比べてみた。
（自作 40 件 × 5 回、Claude Opus 5.5 が 5 点満点で採点）
Qwen3.8-Flash-Next UD-Q3_K_XL 思考あり 4.51
Qwen3.8-Flash-Next UD-Q3_K_XL 4.47
PLaMo 3 Translate 2B Q4_K_M 4.44
DeepSeek-V4.1-Flash-1017 EXL3 2.9bpw 思考あり 4.44
DeepSeek-V4.1-Flash-1017 EXL3 2.9bpw 4.26
PLaMo 3 Translate 0.8B Q4_K_M 3.94
・約 3GB の PLaMo 2B が大型モデルと互角。上位 4 つは誤差の範囲
・日→英は Qwen、英→日は PLaMo 2B が一番
PFN の発表は同じ大きさの翻訳特化モデルとの比較で、今回とは測り方も比べた相手も違う。小さな試験なので参考程度に。
PLaMo 3 の公開、国産LLMの発展という意味でも象徴的に感じる。2017年のTransformerも、最初に大きな成果を示したのは翻訳だったし
PLaMoはすでに汎用モデルもあるけど、翻訳での成果が次の進化を後押しする流れには、かなり期待している
翻訳特化LLMの国産オープンウェイトモデル！
【発表】PFN開発の高品質な翻訳特化型LLM PLaMo 3 Translateをダウンロード可能な4つのサイズのオープンウェイトモデルで公開しました。海外の主要モデルを上回る翻訳品質で、一定条件のもとスマホ、ノートPC、社内サーバー等で機密情報もクラウドを介さずにAI翻訳可能です。 preferred.jp/ja/news/pr20261…
東京創業ステーションって東京都がやってる神サービスなんだけど、あんま使ってる人少ないのなぞだわ
PC作業したいみたいな時に立ち寄って3時間まで使える 無料で
シェアオフィスは借りてるけど、外で作業する時ほぼこっち使ってる。
東京丸の内と立川にあって、自分的な利便性も満点
創業5年まで使えるってのも中々異常
今日は昼、いけいけの新進気鋭CTOと昼飯くって情報交換して夜はこのイベントいく
algomatic.connpass.com/event…
昨日しらべたtop githuber(スター数多い人限定だけど)の中で良さげなのは
linterでskills.md, AGENTS.md, rules とかの記述の質を一定に保たせるアイデアかな
github.com/yegor256/dogent
GPT-6 Astra が Qwen3.5-0.8B の重みを直接書き換えて思考ループを直した研究を、自宅の DGX Spark 2 台で追試してみた。
結果は公開の編集済み重みで MATH-500 は 8.5%→55.0%、GSM8K は 16.0%→68.5%（各 200 問）。論文の値とほぼ同じ
これは夢が広がる
大量の学習データも逆伝播も使わずに、重みを直接いじってモデルをチューニングできる。
rikiyat.github.io/blog/weigh…
GitHub Contributions/年が5万近くなってきたので、
世界のContributions 5万超えるGitHubユーザーはどんなハーネスつかってるか調べてみた
zenn.dev/sodeyama/articles/t…
日本語音声認識モデル Haas-ja-v1.0 を検証してみたんだが
文字起こしを目視確認、ElevenLabs scribe v2, GPT-Transcribe より若干劣るという所感
その後の、productionの分析精度（文字起こしされたTextをベースにやってる）も若干精度が落ちる
ただ、STTの速さは秀逸なので使い所ありそう
STTのAPI料金は基本高いからAWSとかでの自前運用でコストダウンの目的とかはありか
third-intelligence.com/ja/po…
これはすごい
誤解をおそれずに解釈すると、TransfomerのAttentionに該当する層にCPU、メモリ、ファイルシステムを実装（重みを行列計算する箇所に）したという代物
まるでマインクラフトでCPUを実装したというような代物だな
この仕組みでの演算は時間が掛かる、が計算の精度が劇的に上がったと
実用的かは置いておいて今後のフロンティアモデルの方向にも影響するんでは
ちなみに、スタックチャンの方がカメラ自律で動かせるからと思ってそっちでもやってみたけどカメラ解像度低すぎてレスポンスが読みにくいから微妙だった
スタックチャンに高解像度カメラ載せられたらよりいいとは思う
これ証明をAIが解いたのも偉業なんだが
Leanにこれだけの証明を書けるようになったというのが最大の偉業だと思う
数学って自然言語で書く際に暗黙知を前提としている曖昧さを包含しているケースがかなり多い、(同等が値が等しいのか写像が等しいのか同型が存在するなのかみたいな)、これらを整備したことで
数学でCIを回せるようになるってのが最大の偉業ではと
異常な速度でこのCIをベースにした科学そして工学が塗り替えられていきそう
【速報】人類史上もっとも巨大な数学の証明（15,000ページ）が、AIによって完全攻略されてTLが大パニックに。
定理：『有限単純群の分類（CFSG）』「対称性の周期表」と呼ばれる群論の最高峰。これをAIエージェント（AxiomProver）がLean 4で4,310万行のコードに変換し、カーネルの全検証（sorryなし）を完了！
【数学者 vs AIエージェント 】
人類の数学者「よし！過去100人の天才たちが書いた500本の論文（15,000ページ）を集めたぞ！誰ひとり全容を理解した奴はいないが、これで証明は完璧だ！」
AIエージェント「了解です！Leanコード4,310万行に分解して24日間で全ステップ機械検証しますね〜……あれ？」
人類の数学者「えっ」
AIエージェント「1986年の論文（UGT証明）のここ、PSL₂(49)のくだりで論理崩壊してバグってますよ？」
人類の数学者「ファッ！？！？ 40年間誰も気づいてなかったぞ！？」
AIエージェント「大丈夫です。僕がSolomonの理論をベースに『Theorem 2.3』っていう新しい定理を勝手に証明してコード補修しておきました👍（全34件の人間側のミスも修正済）」
人類の数学者「AIに証明のバグ出されて直されたんだが……？？？」
ここがヤバい↓
まだLean化に難儀してる領域はかなりあるとは思うけど
nitter.gq/tsodeyama/status/20808…
