Ilya Sutskever离开OpenAI原因揭秘：奥特曼强硬砍掉他的AI对齐项目研发算力，优先用于开发新产品搞钱

2025-01-22 来源：AI图库吧

连发13条推文！刚刚宣布离职的OpenAI「超级对齐团队」负责人Jan Leike在网上自曝离职的真正原因，以及更多内幕。

一来算力不够用，承诺给超级对齐团队的20%缺斤少两，导致团队逆流而行，但也越来越困难。二来安全不重视，对AGI的安全治理问题，优先级不如推出“闪亮的产品”。

紧接着，更多的八卦被其他人挖出来。

比如OpenAI离职成员都要签一份协议，保证离职后不在外说OpenAI坏话，不签的话视为自动放弃公司股份。

但仍然有拒不签署的“硬骨头”出来放猛料，说核心领导层对安全问题优先级的分歧由来已久。

去年「宫斗」至今，两派的观念冲突到达了临界点，这才看上去颇为体面地崩了。

因此，尽管奥特曼已经派了联合创始人来接管「超级对齐团队」，仍旧不被外界看好。

冲在最一线的推特网友们感谢Jan Leike有勇气说出这个惊人大瓜，并感叹：看来OpenAI真的不太注重这个安全性！

不过回过头来，如今执掌OpenAI的奥特曼这边，暂时还坐得住。

他站出来感谢了Jan Leike对OpenAI超级对齐和安全方面的贡献，表示Jan离开，他其实很难过、很舍不得。

当然了，重点其实是这一句：等着，过两天我会发一篇比这更长的推文。

承诺支持Ilya 20%的算力居然是画大饼

从去年OpenAI宫斗到现在，灵魂人物、前首席科学家Ilya就几乎不再公开露面、公开发声。在他公开宣称离职前，就已经众说纷纭。很多人认为Ilya看到了一些可怕的事情，比如可能毁灭人类的AI系统啥的。

这次Jan Leike算是摊开了说，核心原因就是技术派和市场派对安全方面的优先等级产生了不同看法。分歧很严重，目前后果嘛……大家也都看到了。

据外媒Vox报道，熟悉OpenAI的消息人士透露，更注重安全的员工已经对奥特曼失去了信心，“这是一个信任一点一点崩溃的过程”。但如你所见，在公开平台和场合，没有太多离职员工愿意公开谈论此事。

一部分原因是OpenAI一直以来，都有让员工签署带有非贬低协议的离职协议的传统。如果拒绝签署，就等于放弃了此前拿到的OpenAI的期权，这意味着出来说话的员工可能会损失一笔巨款。

然而，多米诺骨牌还是一张接一张的倒下了——Ilya的辞职加剧了OpenAI近期的离职潮。紧随其后宣布离职的，除了超级对齐团队负责人Jan以外，目前有至少五个安全团队成员离职。其中还有个没签署非贬低协议的硬骨头，比如Daniel Kokotajlo。

Daniel Kokotajlo在2022年加入OpenAI，在治理团队工作，主要工作内容是引导OpenAI安全部署AI。但他也在近期辞职了，并且对外接受了采访：

OpenAI正在训练更强大的AI系统，目标是最终全面超越人类智能。这可能是人类有史以来发生过的最好的事情，但如果我们不小心行事，也可能是最糟糕的事情。

彭博社爆料：苹果将改进Siri的语音交互能力，提供逼真对话服务，依托OpenAI等第三方AI大模型

相关AI教程资讯

热门工具

本周AI教程资讯

更多