アプリ書いたりサービス作ったりしてるAndroid好きです。
Joined September 2009
- Tweets76.5K
- Following294
- Followers2.1K
- Likes10.6K
Pinned Tweet
DGX Spark x2 + DeepSeek-V4-Flash用のultra-sparkdashをソース公開しました。表示系統はsparkDashの最新版からのforkとして実装しており、Webブラウザ上でリアルタイム表示できます。
Grafana+Prometheusでのメトリクス保存は任意導入要素ですが、個人的には可視化自体よりもこちらのほうが便利だと感じています。sparkDashを頻繁に開く必要なくトークン傾向やノード間通信傾向を視覚的に把握できるためです。
出力tokenを表示したくない場合は非表示化のオプションもあります。お手元のLLMで探索してみてください！
github.com/muojp/ultra-spark…
DGX Spark x2でDeepSeek-V4-Flashの推論をしているところの可視化できた。
MoEの43層256(11,008)expert利用・MTP draftの受理/却下状況と2台間のRDMA通信スループットも盛り込んだもの
この例でのdrafterからの受理は平均3.08/stepだけどOpenCodeでコーディングエージェント用に使っているときは実測もっと出てる
デフォのメモリ割当だとシステムメモリが相当カツカツ、推論時にスワップ発生しているのはよくないので性能劣化の様子を見つつGPU_MEMORY_UTILIZATIONを0.80→0.78ぐらいに落としたほうがシステムとしては安定するかもしれない
Fable 5.2がリリースされて、既存のClaudeサブスクにFable resetも3枠来てる。週枠自体をリセットさせずにFable利用枠をリセット対象にすることで「新しいFableをもっと試せますよ！」と宣伝出来つつAnthropicのインフラ費用持ち出しを低減させる匠の技
1
1
334
ChatとWorkを統合・・・OpenAI ChatWorkが来てしまうのか
Team is working on this but it's not rolling out just yet, sorry for any confusion. Plan is to bring together best of both Chat / Work capabilities together at some point this year, but we're going to proceed carefully here and take our time.
We'll have more to share soon.
3
285
Kei Nakazawa retweeted
北大病院が、閉じたネットワークの中でKimi K2.6のAIエージェントを運用中。院内文書への質問は、検索で拾った上位10件の断片を渡す方式だと正答81.3%、モデルが自分で文書を読みに行く方式だと97.2%。「条件に合うものを数える・絞り込む」質問は16.7%から87.8%に上がった。
arxiv.org/abs/2610.32151
みんな忘れているかもしれないけどDGX Spark類のローカルLLMのレシピとかおそろしい規模でLAN内任意コード実行しているわけで正直怖くて仕方ないし、リスクの塊（早晩どっかでエグい事故が起こると思う）だから
NVIDIAがコミュニティに丸投げせずやる気出してくれるなら全部NVIDIAがメンテしてほしいんだよ。各種機材に合わせた量子化モデルにもFlareにも期待してる github.com/NVIDIA/flare-loca…
中規模のRustプロダクトでビルドがあまりにも遅いのでjemallocを削ってmalloc_trimで置き換えた回
CodexにRustでサーバー書かせると規模が膨らむうちに変なメモリプロファイルを取ってRSS増大抑制のためにjemalloc抱えているケースがある（あった）
1
3
447
DGX OSの最新版はDisplay Reserved Memory設定でデフォ2GBのVRAMを0.5GBまで減らせるのが魅力だけど 相変わらずバージョンアップで文鎮化寸前まで行ったという報告もあり7月版から相変わらず動けずに居る人々
私もです
‼️ Your DGX Spark might be saving RAM for a monitor that you don't use.
If it runs headless, set Display Reserved Memory to Auto in UEFI. With no display connected it keeps 0.5 GB instead of 2 GB. Steps below 🧵
5
305
AI全盛の現代でISUCONやったらどういう結果になるのかは結構興味ある。
DBやコードのチューニングはもちろん、歴史の中に埋もれ去った「ベンチマークツールが通るところを全部別言語で書き直す」「ユーザーランドへの切り替えコストを抑えるためにカーネル空間でサーバーを動かす」などなど王道も飛び道具も良い指示があればコンテスト時間内にやりきるところまでAIが可能にしてしまった
Kei Nakazawa retweeted
TangPrimer25KのSERDESで遊ぶ内容をまとめた小冊子、販売開始しました。
めずらしくカッとなって印刷したので紙版がありますｗ
1Gbpsくらいの信号をCDRして受信、1080p60Hz DVI受信、USB 2.0 Soft PHY, USB 3.0で420MB/s転送の解説があります。
fugafuga.booth.pm/items/9034… #GOWIN #FPGA
Kei Nakazawa retweeted
Some stats on #php2shell. In the 10 hours before it was publicly announced, across the @Cloudflare network we saw thousands of attempts to exploit it. That jumped to tens of thousands in the 45 minutes post announcement, hundreds of thousands within 2 hours, and millions now.
Kei Nakazawa retweeted
うれしいアップデート！
DGX Sparkの10月のアップデートで、画面用に確保するメモリをUEFIで「Auto」にできるようになった。モニターをつながない使い方なら0.5GBで済み、既定の2GBよりOSやアプリが使える分が約1.5GB増える。ちなみに既定値は2GBのままなので、設定の変更と再起動が必要。
docs.nvidia.com/dgx/dgx-spar…
Kei Nakazawa retweeted
いまサンフランシスコでGrafana Labsのビジネス系年次イベントのObservabilityCONが開催されてるんですが、そこで発表されたGrafana Pagesが「次世代のダッシュボードツールとはなにか」という問いですらある新機能で面白い。動画を見てもらった方が早いと思う。
youtu.be/tk4GqZAc71M?si=71Q8…
#grafana
Kei Nakazawa retweeted
Interface誌別冊付録「GOWIN FPGAでGbps超高速通信」もくじ確定 fpga.tokyo/gowin6/
