OpenAI安全主管辞职再失一名高管

5月18日凌晨，OpenAI安全主管、超级对齐负责人Jan Leike在社交平台宣布离职。这已经是本周内第二位高管辞职——三天前，联合创始人兼首席科学家Ilya Sutskever刚刚离开。 可以预见的是，随着这两位核心人物的离去，OpenAI内部可能会有更多人选择出走。这也意味着，去年由Ilya发起的“罢免Sam Altman”事件，最终以失败收场。

OpenAI首席执行官Sam Altman很快给出了回应，感谢并肯定了Jan在OpenAI期间的贡献和领导能力。同时表示，未来几天会发布一篇更长的文章，详细阐述OpenAI在产品安全方面的规划与实际行动。 Jan在辞职声明中提到，他当初加入OpenAI，是认为这里是全球最适合做大模型安全研究的地方。但如今，高层领导似乎对安全对齐这件事已经没那么重视了，直到局面变得无法挽回。对他来说，是时候离开了。 他坦言，构建比人类更聪明的AI机器人本身就是一件极其危险的事。他不想看到《终结者》《机械公敌》里那种机器人失控、清理人类的科幻场景变成现实。OpenAI正在代表全人类承担巨大的责任，向AGI砥砺前行。他认为，应该把更多的算力和基础设施投入到产品安全、对抗鲁棒性、超级对齐、数据保密、监控等领域。换句话说，OpenAI应该成为一家以安全为核心的AGI公司，而不是一味地发布一些没有安全保障的危险产品。 Ilya和Jan相继辞职后，有人不禁发问：两位安全方向的最高负责人都不在了，以后谁来为OpenAI的产品安全把关？与此同时，有网友爆料，想离开OpenAI没问题，但必须签署一份“离职协议”——如果不签署终身不诋毁承诺，将失去所有已获得的OpenAI股权。不知道Jan的一番吐槽，会不会影响到他手上的股权。 尽管本周OpenAI刚刚发布了再次震动科技圈的多模态大模型GPT-4o，但内部人事的剧烈动荡，可能会给未来产品——比如GPT-5的发布——带来一些不确定因素。 回顾2023年11月18日，Ilya认为Sam的产品路线出了大问题，过于激进而完全忽略了安全性，于是发动了震惊全球科技界的“罢免Sam Altman”事件。经过十多天的周旋，Sam在微软的强力支持下重新夺回控制权。如今，Ilya等人已经离开，没了“捆龙锁”的Sam会在AGI的道路上继续狂飙吗？且看后续发展。 **关于Jan Leike** 加入OpenAI之前，Jan曾在谷歌DeepMind工作，主要负责基于人类反馈的强化学习原型设计。在OpenAI期间，他参与了InstructGPT、ChatGPT的开发以及GPT-4的安全对齐工作。他发表过多篇知名大模型安全论文，包括《Weak-to-Strong Generalization: Eliciting Strong Capabilities With Weak Supervision》《Self-critiquing models for assisting human evaluators》《Deep Reinforcement Learning from Human Preferences》等。2023年，Jan被《时代》周刊评为AI领域最具影响力的100位人物之一。