Software Engineer/CUDA/GPU/Deep Learning 日常のつぶやきと技術的な何か

Tokyo
Joined August 2021
国内で生成AIやソブリンAIモデル開発に従事するお客様の技術支援やプリセールスを行うポジションになります。 ディープラーニングまたは生成AIの推論または学習、エージェント開発経験がある方で、自分の得意な領域を生かしつつ、+αで新たな技術領域にもチャレンジしたいという方を探しています。
私のチームに生成AI SAのポジションがオープンしました。ご興味がある方いらっしゃいましたら、以下からJDご確認下さい🙏 nvidia.eightfold.ai/careers?…
1
7
1
18
11,735
acc-mu3n retweeted
4GBの会話モデルNemotron 3.5 Bolt E4Bを、DGX Sparkで試しました。 音声アシスタントやゲームのNPC、ロボットの受付役に向く小型モデルです。単発128.79 tok/s、日本語8/9、ツール呼び出し5/5。量子化を深めた版なら、8GBのJetson Orin Nano Superでも動きます。 dev.classmethod.jp/articles/…
2
5
299
Want to try Nemotron 3.5 Bolt E4B 4GB for yourself? 👀 Get hands-on with it on your NVIDIA Jetson through Jetson AI Labs: jetson-ai-lab.com/models/Nem…
Available now: NVIDIA Nemotron 3.5 Bolt E4B 4GB ⚡️ Our newest small open model is built for local assistants, interactive characters and robots that can carry on a conversation and use tools to get things done. Watch Reachy Mini chat and move, with Bolt handling conversation and NVIDIA Cosmos handling vision. Both models run locally on Jetson Orin Nano 8GB. Learn more: research.nvidia.com/labs/nem…
10
23
3
192
11,034
acc-mu3n retweeted
NVIDIAが小型モデルNemotron 3.5 Bolt E4B 4GBを公開。会話と複数ターンのツール呼び出し向け。 Q4_K_Mで使うメモリは3〜5GB程度。RTX 5070で毎秒133.4トークン、RTX Spark(32GB)で67.0(入力3K・出力50)。DGX Sparkも対象だが、公式の速度表にはまだなさそう。 research.nvidia.com/labs/nem…
1
1
190
つかれた
1
128
SlackのDMで間違ってSlurmのジョブ投入コマンドを送付してしまった。前提、本当に申し訳なかったのですが、「僕を何だと思っているんですか、計算機ですか」と言われて、2秒くらい考え込んでしまった。
1
7
42
3,136
今週は、だる絡みされる週なのですか。そうですか。
1
165
炎上しないように慎重に進もう
1
99
また変なの来たよ。。。
26
私のことを、ちいかわっぽいと言っている方が居るようで、その一方、でかつよだとも言われることがあり、どちらが本当の自分なんだろうとなっている。人間多面的なんですかね
1
3
317
なんか木曜日だけど少し息切れしている。はやい
1
143
新幹線のチケットとるの難しい…
1
315
あ、帰りのチケットとってない。まだあるかな…
57
辛味が足りず、KALDIで辛そうな香辛料を捜索。既に知ってる物、初めてのものを含めて何個か買ってみた
1
198
おにぎりポムポムプリン!
池袋駅のJR南改札出たところでむにゅぐるみのポップアップ出ていて、チームプリンのグッズ山ほどありました。 #因幡はねる
322
なんか就業時間(というのがあるか良く分からないけれど)で、手を動かす時間を作るのが難しいな
112
Nvidia’s Nemotron 3.5 Super VL is now the leading US open weight model, scoring 26 on the Artificial Analysis Intelligence Index Nemotron 3.5 Super VL achieves twice the intelligence of its predecessor, Nemotron 3 Super (13), and does so using ~60% fewer output tokens per task It launches alongside Nemotron 3.5 Bolt 74B-A9B 24GB, the first model in its new Bolt family, which scores 21 on the Intelligence Index Congratulations to @NVIDIAAI on the releases! Key Takeaways: ➤ Leading US open weight model: Nemotron 3.5 Super VL scores 26.5, edging out Thinking Machines' Inkling Small (25.7) and ahead of NVIDIA's Nemotron 3 Ultra (23) and Meta's Muse Glimmer (17) ➤ Bolt comes within 2 points of Ultra: Nemotron 3.5 Bolt 74B-A9B 24GB scores 21, 1.5 points behind Nemotron 3 Ultra 550B A55B (23). The 2 bit memory has about a seventh of Ultra's parameters (74B vs 550B) and a sixth of its active parameters (9B vs 55B) ➤ Super 3.5 VL near lossless in NVFP4: Nemotron 3.5 Super VL releases in NVFP4, scoring within 0.1 points of its BF16 weights on the Intelligence Index, with no component moving by more than 2.6 points Nemotron 3.5 Super VL details Context window: 1M tokens Modalities: Vision and text input; text output Parameters: 120B / 12B Nemotron 3.5 Bolt 74B-A9B 24GB details Context window: 256k tokens Modalities: Vision and text input; text output Parameters: 74B / 9B
90
84
51
1,020
164,616
acc-mu3n retweeted
Meet NVIDIA Nemotron 3.5 Super VL Our new open model combines reasoning and tool use with text, image, document, and video understanding for long-running AI agents. 120B total parameters with 12B active 🧵
🤖 Made with AI
288
553
363
4,451
598,892