14MAY18_XXXXXL56ENDIAN手机_时尚焦点_又一华人高管离职，OpenAI总裁提14MAY18_XXXXXL56ENDIAN手机前归队

又一华人高管离职，OpenAI总裁提14MAY18_XXXXXL56ENDIAN手机前归队_ZAKER新闻

现任总统妻子岳母接连被查，施政差评率创新高……“青瓦台魔咒”的阴影是否再度笼罩在韩国政坛？

出品｜虎嗅科技组作者｜孙晓晨编辑｜苗正卿头图｜视觉中国11 月 9 日，OpenAI 安全系统团队负责人 Lilian Weng 宣布将于当地时间 11 月 15 日离职，而 3 个月前，她刚刚上任 OpenAI 研究与安全副总裁。Lilian Weng 本科就读于北京大学，后在印第安纳大学伯明顿分校取得博士学位，是 GPT-4 项目的重要贡献者之一。2023 年，Lilian Weng 创建并领导了 OpenAI 的安全系统团队，以期解决现有模型被恶意使用等 AI 安全问题。2024 年 5 月，OpenAI 第三位安全主管 Jan Leike 离职。不久之后，Lilian Weng 升任为 OpenAI 新一任安全主管。如今，Lilian Weng 选择离开。" 在 GPT-4 发布之后，我被要求接受一个新的挑战，重新考虑 OpenAI 安全系统的愿景，并将工作集中在一个拥有完整安全堆栈的团队之下。这是我做过的最困难、压力最大、最激动人心的事情之一。"Lilian Weng 在社交平台 X 中分享道，" 如今，安全系统团队拥有 80 多名杰出的科学家、工程师、经理、政策专家，我对我们团队取得的成就感到非常自豪。"在离职声明中，Lilian Weng 对团队取得的成果表示非常满意，尤其对 o1-preview 模型的最新成就赞不绝口，" 它是我们迄今为止最安全的模型，在保持真实性的同时，表现出了对越狱攻击的卓越抵抗力。"为什么要培养一个安全型 AI？Lilian Weng 在 B 站 " 超级科学晚 " 活动中表示 "AI 安全是保障智能世界的关键"。随着 AI 的快速发展和广泛应用，恶意使用、有害信息输出、数据偏见、数据污染、对抗性攻击以及与人类价值不符等安全挑战也成为了 AI 发展不得不面对的问题，AI 安全成为重要课题。然而，OpenAI 或已无暇顾及 AI 安全问题。在此之前，OpenAI 超级对齐团队的两名负责人 Ilya Sutskever 和 Jan Leike 便已离职。Jan Leike 在个人推文中奉劝 "OpenAI 必须成为一家以安全为首位的 AGI 公司 "。"AGI Readiness" 团队的高级顾问 Miles Brundage 也于近日离职，并在离职声明中指出专注于 AI 安全研究的 "AGI Readiness" 团队将被解散。他本人则希望从外部继续进行 AI 安全方面的工作。包括 Lilian Weng 在内多位 AI 安全部门核心员工的离开，证明 AI 安全在 OpenAI 内部已被置于次要位置。与 AI 安全相比，OpenAI 不得不先考虑营收问题。据 CNBC 证实，今年 OpenAI 预计收入约为 37 亿美元，而亏损约 50 亿美元。报道中称，该公司 8 月份实现了 3 亿美元的收入，自去年初以来增长了 1700% ，并预计明年将实现 116 亿美元的销售额。尽管前景广阔，但短期之内，资金压力会是 OpenAI 的主要问题之一。在考量之中，安全为利润让了路。同时，离职潮也展露了 OpenAI 的内部问题。OpenAI 人员动荡中，Lilian Weng 并非第一位离开 OpenAI 的华人高管。此前，曾任 ChatGPT 消费产品副总裁的 Peter Deng 便已离职。2023 年智谱研究发布的《ChatGPT 团队背景研究报告》显示，ChatGPT 团队共有华人 9 人，占团队总人数 10%，Lilian Weng 便是其中之一。尽管是 OpenAI 的资深员工，而且居功甚伟，Lilian Weng 依然选择离开这里。华人科学家出走，是 OpenAI 离职潮的缩影。然而，离职风波中的 OpenAI 终于传来好消息。11 月 13 日，OpenAI 联合创始人兼总裁 Greg Brockman 宣布提前结束休假，回归公司。据外媒报道，Greg Brockman 回归，将专注于应对重大技术挑战。如今，除 Sam Altman、Wojciech Zaremba 以及刚刚休假回归的 Greg Brockman 外，当年其余帮助创立 OpenAI 的元老均已不在团队之中。大量早期员工的离开，说明在人工智能的发展航程中，不仅仅是技术问题有待解决，员工管理和理念冲突更是不得不谨慎处理的隐痛。" 现在，在 OpenAI 工作了 7 年了，我准备重新开始并探索一些新东西。OpenAI 正以火箭般的增长趋势上，希望这里的每个人一切都顺利。"Lilian Weng 未在推文中介绍离职原因，但作为公司目前职位最高的华人科学家之一，她的出走表明 OpenAI 人员动荡远未平息。Greg Brockman 回归是否能让 OpenAI 的高层动荡回稳，尚是未知数。