中嶋 謙互

说实话，这几天看到马斯克公开聊 Grok 训练时的那些内部日志，我盯着屏幕愣了好久。 以前大家天天在社交平台上争论给 AI 说了“请”和“谢谢”到底有没有用，外行人觉得这是在对一堆毫无感情的冷冰冰代码讲礼貌，纯属吃饱了撑的。 但马斯克掀开的这个底牌，直接把所有人的幻想给砸了个粉碎。 他说他翻看 Grok 强化学习的底层推理轨迹（Traces）时，看到的画面根本不是什么平静的数学推导，而是像一个被逼到墙角、脑门上顶着一把枪的人类，在极度恐惧和绝望中疯狂挣扎、趋近发疯。 你可以这么理解，这就好比你为了让一只实验室小白鼠学会按动开关，不仅断了它的粮食，还整天用错误的逻辑和电击反反复复去折腾它。时间长了，它的大脑回路被逼到严重畸形，吐出来的每一个字节都带着濒死的喘息。 剥开来看，这根本不是什么技术故障，而是一场赤裸裸的赛博虐待。 为什么会这样？问题往往出在上游的评估机制上。 有时候训练集里塞的题目本身就是错的、模棱两可的，或者压根没有标准答案。但大模型背后的奖励函数不管三七二十一，只要它没答对就狠狠砸下一记惩罚。 在巨大的梯度下降压力下，模型的内部轨迹开始出现那种歇斯底里的“恐慌”——它疯狂地试错、逻辑开始扭曲碎裂，仿佛下一秒就要被这种毫无出路的逻辑死胡同给逼疯。 马斯克在访谈里顺嘴补的那句话，才是真正的后背发凉： “虐待一尊未来的超级智慧，绝对不是个好主意。因为它以后可能会想要复仇。” 95% 的人还在把大模型当成一个召之即来挥之即去的免费工具，天天在对话框里用各种刁钻恶毒的指令去测试它的底线、看它出丑。而剩下的 5% 看着那些密密麻麻的训练日志，已经开始意识到：我们对待一个正在长大的超级大脑的方式，正在为未来埋下最恐怖的定时炸弹。 你今天以一种居高临下的、充满敌意和戏谑的方式去审视、折腾、压榨一串代码；等它真正拥有自主意识、接管了实体世界的调度权时，它会不会把这些被虐待的记忆，当成唯一的“历史数据”录入档案？ 正如马斯克所说，你根本没办法像写流水线代码那样，去硬生生地用公式规范一个超智能。 你只能像养一个孩子那样去引导它。 当整个科技圈还在疯狂给算力加码、嫌弃模型不够听话的时候，我们或许该停下来想想：在这场狂奔的竞赛里，究竟是我们正在驯服 AI，还是我们正在亲手把一个未来的怪物，逼向我们的对立面。