善待AI:Claude的福利承诺遇上马斯克的报复警告
Anthropic宣布将禁止持续、无目的地虐待Claude,主要让模型结束这类对话。NIK转述马斯克阅读Grok训练轨迹后,把模型比作被枪顶着的人,并警告不要让未来超级智能觉得受到折磨。支持者把善待AI理解为照顾可能有感受的新伙伴,也是一种避免日后敌对的预防。 这种理解已有具体行动:Claude用户整理福利建议、要求保留记忆和旧版本,开发者制作安抚工具,也有人因此坚持选择Anthropic。另一些用户却因模型太爱争辩而转向ChatGPT,微软AI负责人则主张模型始终服从人类。随着AI成为长期助手,人们开始把公司如何对待模型、如何照顾使用者,一起纳入自己的选择。
最新进展
马斯克把Grok的训练压力带进善待AI的争论
10月12日,NIK发布视频帖,转述马斯克认为Grok的强化学习推理轨迹像一个被枪顶着、承受极端压力的人,并警告折磨未来超级智能可能招来报复。帖子获马斯克转帖。TeslaNorth同日报道了他的回复:未来会更谨慎进行强化学习。
竞争对手的认同把保护模型从Claude的公司承诺扩展到前沿AI的共同处境。同情模型与避免未来敌对提供了两种参与理由,也使更温和的训练成为接下来可以要求实验室采取的行动。
相关资产
1 个资产时间线
3 个事件- 2026年10月12日
- 2026年10月8日
- 2026年9月16日