ferstar retweeted
Over the past week, I’ve been overwhelmed by the love and support of friends, industry colleagues, and people I've never met. Thank you to everyone who has shown kindness to my family and me. It means the world to me.
I came to the United States 53 years ago, and becoming an American citizen is one of the greatest gifts and proudest moments of my life. NVIDIA has been my life’s work. Building it into the company it is today alongside my colleagues has been a privilege and an honor. Nowhere but in America could a company like NVIDIA be possible. I love our country, and I love NVIDIA.
I did not live up to the standards expected of everyone at NVIDIA, and I have made serious mistakes in my personal life. I created problems for the Board that I deeply regret. I own my mistakes completely, and I am committed to cooperating with the Board’s independent investigation.
Since my departure, I’ve seen an outpouring of calls from NVIDIA’s employees, investors, business partners, and customers for me to return as CEO. Many continue to reach out to me directly as the company navigates complex technology, market, competitive, and geopolitical dynamics. NVIDIA is a once-in-a-generation company. If the Board of Directors decides that my return is in the best interest of our shareholders, our employees, the company, and America, I would be honored to answer these calls and return as CEO.
Thank you again to everyone who has shared their good wishes. I am profoundly humbled by your support. To my family: I love you, and I will spend the rest of my life being worthy of yours.
Jensen
ferstar retweeted
Introducing cc-remote.
Claude Code eats your RAM and CPU. But why run the harness locally?
cc-remote runs the harness in the cloud, while keeping tool execution local.
Run 10+ Claude Code instances on a 16GB MacBook Air.
Strata released v0.2.7.1 with official ARM64 prebuilts & sm_121 optimizations for GB10 (DGX Spark).
Ran an ABBA benchmark across versions:
• 4K prompt / prefill is ~16–20% faster
• Decode was slightly noisier across restarts (~hundreds of ms jitter), confirming STRATA_SPEC_COST alone wasn’t the bottleneck.
Write-up & numbers: blog.ferstar.org/en/posts/st…
DGX Spark support is now official!
DeepseekV4.1-Flash-1017 on Mac!
Updates are incoming for Intel B-series cards & Strix🫡
1
12
1,182
给 4090 D 解锁 Tensor 算力后,有朋友提醒:“这对跑 MoE 量化推理可能几乎没用。”
测完了,确实如此:基本零收益😭
翻了 Strata 源码,IQ3_S 专家内核实际跑的是纯整数指令(mma s8.s8.s32),解锁翻倍的只是浮点 Tensor 算力,根本使不上劲;而且异构推理瓶颈全卡在显存带宽、PCIe 搬运和 CPU 卸载上。
受控对照数据与汇编分析写了篇总结: blog.ferstar.org/posts/tenso…
家里的 RTX 4090 D 跑通 gpu-unlock 了。
Tensor FP32 累加吞吐约翻倍,GEMM 提升 28%~90%,数值校验通过。
Strata 现测约 138 token/s,解锁对推理的收益还要同版本 A/B 验证。
补丁、原始数据和启动过程:
blog.ferstar.org/posts/rtx40…
家里的 RTX 4090 D 跑通 gpu-unlock 了。
Tensor FP32 累加吞吐约翻倍,GEMM 提升 28%~90%,数值校验通过。
Strata 现测约 138 token/s,解锁对推理的收益还要同版本 A/B 验证。
补丁、原始数据和启动过程:
blog.ferstar.org/posts/rtx40…
UU远程开放调用协议上线,实现在APP内直接调用UU远程的远控能力。
如果你是一个独立开发者,需要把UU远程的远控能力接入你的APP,可以前往GitHub查看我们的接入引导指引。目前支持在APP内以小窗模式观看远端电脑屏幕,也支持在APP内快速发起远控。欢迎大家体验后向我们提出优化建议。
仓库地址:github.com/netease-uuyc/uure…
#UU远程 #网易UU远程 #GitHub #开发
2
229
由于太懒,不想为用个远控去注册账号、搭服务器,我把 #RustDesk 的 ID 服务器和中继换成了 #tailcat,做了 #SealDesk:被控端点一下分享、控制端扫码即连,会话全程 WireGuard 加密,中继不用自己跑。自用感觉还可以,欢迎体验。
github.com/runseal-labs/seal…
在 @ai_fengshou 了不起的工作上做了点微小的贡献😘
网易 UU 远程非常好用,但官网一直没有 Linux 版本。于是我借助 Claude 和 Codex,写了这个开源的 Linux 被控端: 装上之后,就能用官方的 Mac / Windows / 手机客户端远程控制你的 Linux 电脑。
这是个人兴趣项目,与网易无关,也不是官方客户端。如果网易认为本项目侵权或有不妥, 请在推特私信我 @ai_fengshou,我会第一时间自行下架。
我承诺,不会用这个项目做任何牟利。只是因为官方暂时没有 Linux 版本,我想方便大家在 Linux 上使用。如果官方发布 Linux 版本,我将第一时间停止更新。
github.com/VallierDev/uu-rem…
1
3
214
别被两台 DGX Spark 的跑分视频忽悠了。
拿 QSFP 铜缆直连拉起 MiMo-V2.6-Flash(TP=2):
- 测 128 token 短 Prompt:6 并发总吞吐能冲到 173 tok/s,看着很猛。
- 挂进日常 Coding Agent 真实上工:起 5 个子 Agent 扫项目,单路直接暴跌到 15–25 tok/s,6 分钟连一个子任务的结果都没吐完……
底层逻辑很赤裸:ConnectX-7 实际上只分到了 PCIe Gen5 x4(单向理论上限 126 Gb/s),更要命的是 LPDDR5X 统一内存带宽只有 273 GB/s(对比 4090 的 1008 GB/s)。
堆双机只解决了“显存能不能装下”,根本解决不了“单路解码就是慢”。除非你的代码隐私贼贵死贵,或者买来当桌面大玩具刷跑分,否则别指望它带飞多 Agent。
完整实测数据与真实避坑分析:
blog.ferstar.org/posts/dgx-s…
#DGXSpark #LLM #CodingAgent #AIInference #NVIDIA
别被两台 DGX Spark 的跑分视频忽悠了。
拿 QSFP 铜缆直连拉起 MiMo-V2.6-Flash(TP=2):
- 测 128 token 短 Prompt:6 并发总吞吐能冲到 173 tok/s,看着很猛。
- 挂进日常 Coding Agent 真实上工:起 5 个子 Agent 扫项目,单路直接暴跌到 15–25 tok/s,6 分钟连一个子任务的结果都没吐完……
底层逻辑很赤裸:ConnectX-7 实际上只分到了 PCIe Gen5 x4(单向理论上限 126 Gb/s),更要命的是 LPDDR5X 统一内存带宽只有 273 GB/s(对比 4090 的 1008 GB/s)。
堆双机只解决了“显存能不能装下”,根本解决不了“单路解码就是慢”。除非你的代码隐私贼贵死贵,或者买来当桌面大玩具刷跑分,否则别指望它带飞多 Agent。
完整实测数据与真实避坑分析:
blog.ferstar.org/posts/dgx-s…
#DGXSpark #LLM #CodingAgent #AIInference #NVIDIA
天天在终端里跑 Claude Code、Cursor、Codex,大家心里其实都有个犯嘀咕的事:
Agent 本质上就是你机子上的一个普通子进程。你的终端有什么权限它就有什么权限。读写当前代码正常,但如果它随手读一下 ~/.ssh/id_rsa、扫一眼 ~/.aws/credentials,或者翻翻隔壁商业项目,操作系统根本不会有任何拦截。
靠 [Y/n] 确认框?跑个大点的任务几十次 tool call,两分钟你就只会狂按回车了(审批疲劳);扔进 Docker?Mac 跨 VM 挂载文件 I/O 慢得跟乌龟一样,而且为了下依赖还得开外网,真有恶意 prompt 注入凭证照样往外飞。
前阵子 ZCode 那个事,只是把这种裸奔隐患在聚光灯下引爆了一次。
这个项目其实很早就成型了:RunSeal —— 一个专给 Agent 跑命令用的 OS-native 轻量沙箱。核心就抓四件事:
1. 毫秒级原生拉起:不依赖 VM,Windows 是一等公民(Restricted Token / Job Objects),macOS/Linux 用原生沙箱机制;
2. 工作区锁死(Containment):只能碰当前 Workspace 和私有临时目录,~/.ssh、~/.aws 底层直接报 Operation not permitted;
3. 受控代理出口(network.proxy):不搞非黑即白的粗暴拔网线,所有流量强制走 Managed Proxy,直连和未授权 loopback 全部阻断;
4. 宁可报错绝不偷摸裸奔(Fail-Closed)。
详文和思路整理在这里:
🔗 博客:blog.ferstar.org/posts/local…
📦 仓库:github.com/runseal-labs














