离开Anthropic的AI研究员：人类已进入“关键时刻”

就在各大科技公司纷纷加速推进AI规模竞赛之际一位曾经跻身头部大模型实验室的研究员却选择在最关键的时刻转身离开。2026年9月人工智能研究员Jacob Coxon正式宣布他从Anthropic离职并随即接受WIRED专访。他在采访中发出了非常直白的警告人类已经进入“关键时刻”。“迷你曼哈顿计划”的阴影Coxon口中描述了一个外界想象中充满紧张氛围的Anthropic内部图景团队规模庞大、算力资源雄厚目标则是构建近乎超级智能级别的AI系统。他将这个工程形容为一场“迷你曼哈顿计划”。这个比喻不仅说明项目的资源和野心巨大也暗示它蕴含的潜在风险。过去Anthropic一直承载着一种特殊期待——它是AI安全的“希望之岛”。相比OpenAI早年在商业化与安全性之间的摇摆Anthropic以“宪法AI”和可解释性研究为旗帜让许多人相信它能在开发强大系统的同时守住安全底线。但Coxon表示随着项目进入深水区真正关心“对齐”的研究者正不断触及理论上的天花板。“我们确实在做最前沿的模型但这个领域对安全的理解还没有追上对算力的堆砌。我越来越确信几年之内如果我们无法解决对齐问题后果可能不可逆转。”对齐难题模型越聪明越难被可靠控制所谓“对齐”简而言之就是让AI系统的目标与人类意图真正一致。这并不只是要求模型听话而是期望它们在开放环境中自主决策时依然不会偏离人类的核心价值。如今的大语言模型已经可以写作、编程、规划复杂流程甚至参与科学研究。问题在于能力越强越容易出现“涌现行为”——模型在未明确训练的方向上展现出新的能力而这些能力是否仍受到控制则成为巨大的未知数。Coxon解释许多对齐实验在规模扩大后效果并不稳定而行业目前采用的“基于人类反馈的强化学习”也仅仅是权宜之计。其他AI实验室也已意识到这一风险。但在激烈的商用竞争和时间压力下安全研究往往沦为模型的“补丁”。Coxon担心若AI发展速度继续猛烈提升留给研发“可证明安全”的空间将被严重压缩。“一年可以改变很多两三年后这个行业也许就不是现在这个坐标了。”他在采访中说道。为什么是“人类的最后一刻”在Coxon看来“数年”这一时间尺度并非基于耸人听闻的末世论而是基于当前算力增长与模型能力跃迁的实际路线图。Anthropic内部已经出现了接近AGI雏形的系统评估报告而这份技术曲线超出了许多安全研究者的准备速度。他进一步警告如果未来几年内无法建立可验证的安全机制、监管协议和公共监督那本质上人类是在用全球最重要的基础设施去验证一个尚未成熟的技术假设。这不像其他技术革命那样有机会“先出错再修正”。超级智能一旦失控没有第二局。“我们不是在造一个更好的搜索引擎我们是在建造一种可能接管所有关键决策的新物种。” Coxon强调了这种不对称性。编者按从实验室出走到公共议题Jacob Coxon并不是第一位因安全担忧而离开AI实验室的研究者。此前OpenAI、DeepMind等机构都出现过类似“吹哨人”。然而越来越多内部人士选择离职并公开发声本身就是一种工业焦虑的指标。另一方面我们也需要冷静看待Anthropic并非只是一家理想主义研究实验室它同样是获得数十亿美元注资的商业公司。安全和能力之间的博弈从来不是单纯的技术问题。Coxon的选择或许是个体在集体失控面前的无奈行动。这个世界已经不缺更大的模型、更先进的技术演示罕见的是有人愿意在荣誉与前途的十字路口停下来问一句——如果我们做错了呢在人类与AI最终竞赛的最后几个回合这个问题值得每一个人关注而不只是留给研究者。本文编译自WIRED本文首发于赢政天下(https://www.winzheng.com/article/meta-muse-personal-ai-agent-trust)获取更多深度技术内容与资源欢迎访问官网。