OpenAI安全副总裁、北大校友Lilian Weng的离职，有时间写博客了！

文摘 2024-11-13 06:30 北京

机器之心报道

编辑：Panda、陈陈

翁荔的技术博客深入、细致，具有前瞻性，被很多 AI 研究者视为重要的参考资料。如今，她离开了 OpenAI，开启新的征程。而且她表示，之后可能有更多时间频繁更新博客。

自从 Sam Altman 重新执掌 OpenAI 以来，该公司就陷入了持续不断的高管离职潮中。虽然近段时间有些外部新高管加入，但很显然这个离职潮仍未结束。

就在刚刚，OpenAI 安全系统团队负责人翁荔（Lilian Weng）在 X 上宣布将离开已经工作了近 7 年的 OpenAI。同时，她还公开分享了发给团队的离职信，不过其中并未明确说明她接下来的职业计划。

推文发布后，OpenAI 内外的一些知名人士为其送上了祝福，包括著名研究科学家 Noam Brown、OpenAI 首席信息安全官 Dane Stuckey、思维链提出者 Jason Wei 等等。

当然，许多网友也纷纷送上了自己的祝福，毕竟她不仅在 OpenAI 推动了安全相关的研究和实践，偶尔更新的博客 Lil’Log 也实实在在地帮助了很多人。

Lilian Weng 博客地址：https://lilianweng.github.io/

以下是她与团队分享的离职信的中文版：

亲爱的朋友们，

我做出了离开 OpenAl 的艰难决定。11 月 15 日将是我在办公室的最后一天。

OpenAl 是我成长为科学家和团队领导者的地方，我将永远珍惜与我一路共事和结交的朋友在一起的时光。OpenAl 团队一直是我的知己、老师，也是我身份认同的一部分。

我还记得 2017 年 OpenAl 的使命让我多么着迷，一群人梦想着一个不可能实现的科幻未来。在这里，我一开始研究的是全栈机器人难题 —— 从深度强化学习算法到感知再到固件 —— 目标是教会单台机械手如何解决魔方问题。整个团队花了两年时间，但我们最终做到了。

当 OpenAl 进入 GPT 范式，我们开始探索将最佳 AI 模型部署到现实世界的方法时，我组建了第一个应用研究（Applied Research）团队，推出了微调 APl、嵌入 APl 和审核端点的初始版本，为应用安全工作奠定了基础，并为许多早期 API 客户提供了新的解决方案。

GPT-4 发布后，我被要求接受一项新挑战，重新考虑 OpenAl 安全系统的愿景，并将工作集中在一个拥有完整安全椎栈的团队之下。那是我曾做过的最困难、压力最大又最激动人心的事情之一。现在，安全系统（Satety Systems）团队有超过 80 位出色的科学家、工程师、产品经理、政策专家，而且我为我们作为一个团队所取得的一切成就感到非常自豪。我们一起成为了每次发布的基石 —— 从 GPT-4 及其视觉和 turbo 版本到 GPT Store、语音功能和 o1。我们在训练这些模型使其既强大又负责任方面所做的工作为行业树立了新的标准。我为我们在 o1-preview 模型方面取得的最新成就感到特别自豪，它是我们迄今为止最安全的模型，在保持其实用性的同时，表现出对越狱攻击的卓越抵抗力。

我们一起取得了令人瞩目的成就：

我们训练模型使其明白，通过遵循一套定义明确的模型安全行为政策，可以让其很好地拒绝敏感或不安全的请求，包括何时拒绝或不拒绝，从而在安全性和实用性之间取得良好的平衡。
在每次模型发布时，我们都提高了其对抗稳健性，包括防御越狱攻击、指令层次结构以及通过推理大幅提升稳健性。我们在透明度方面的承诺都已体现在我们详细的模型系统卡中。
我们开发了业界领先的具有多模态能力的审核模型，并免费分享给了公众。我们目前在更通用的监控框架和增强的安全推理能力方面的工作将为更多的安全工作流提供支持。
我们为安全数据记录、指标、仪表板、主动学习管道、分类器部署、推理时间过滤和全新的快速响应系统建立了工程开发基础。

回顾我们所取得的成就，我为安全系统团队的每个人都感到骄傲，我非常有信心团队将继续蓬勃发展。我爱你们❤️。

现在，在 OpenAl 工作了 7 年后，我准备重新开始并探索一些新东西。OpenAl 正处于火箭般的增长轨迹上，我只希望这里的每个人都一切顺利。

附言：我的博客还在，会继续下去。我可能很快就会有时间更频繁地更新它，也可能会有更多时间来编程；)

爱你们的，

Lilian

Lilian Weng 介绍

Lilian Weng 是 OpenAI 华人科学家，她 2018 年加入 OpenAI，参与了 GPT-4 项目的预训练、强化学习 & 对齐、模型安全等方面的工作。她本科毕业于北大，曾前往香港大学进行短期交流，博士毕业于印第安纳大学伯明顿分校。

根据领英资料显示，Lilian Weng 在 OpenAI 已经工作了近 7 年时间，担任安全研究副总裁一职。

2021 年 - 2023 年工作期间，Lilian Weng 建立并领导了应用人工智能研究团队，包括产品研究、合作伙伴研究和应用安全，从而使得 OpenAI 的 API 更强大、更实用、更安全。

之前，她还是 OpenAI 机器人团队的技术主管，专注于训练关于机器人任务的算法，如教机械手如何解决魔方、旋转方块等。

在加入 OpenAI 之前，她还在 Facebook、Dropbox 从事软件工程和数据科学方面的工作。

Google Scholar 显示，Lilian Weng 论文引用量超过 13000 多次。

闲暇时间，Lilian Weng 还写了一些关于 AI 的博客文章，她的博客深入、细致，具有前瞻性，被很多 AI 研究者视为重要的参考资料（见文末「扩展阅读」）。感兴趣的读者可以前去阅读。

扩展阅读：

转载请联系本公众号获得授权

投稿或寻求报道：liyazhou@jiqizhixin.com

http://mp.weixin.qq.com/s?__biz=MzUyMjYyNjQ5NQ==&mid=2247546500&idx=2&sn=069d095bee380835f39a6f3b8a85221d

清晨领导力

新的“大航海时代”到来，与AI共创，以领导力经典为奋斗者的英雄之旅加油！功崇惟志，业广惟勤！允执厥中，行稳致远 —— 清晨领导力创始人徐中博士

清晨领导力1564丨约翰·科特：如果组织重视绩效导向，支持高效，支持团队合作，支持精简机构，文化就能够极大地增强组织的适应性。

百岁告别，“诗词的女儿”叶嘉莹，她说：“这么好的东西，怎么能不讲给年轻人知道？”

领导力前沿|任正非写给华为抑郁症员工的一封信

清晨领导力1563丨约翰·科特：在竞争激烈行业的最佳公司里，高管的大多数时间是在发挥领导力，而不是从事管理。

AI前沿|黄仁勋对话沈向洋：英伟达十年将计算边际成本降低为100万分之一

领导者|王毅外长的起点高不高？一个刚工作就能为总书记写讲稿的年轻人

清晨领导力1562丨约翰·科特：组织要挖掘领导人才，就需要精简组织，授权管理，鼓励冒险。

荐书《出海战略》| 从张瑞敏到任正非：掌握出海领航者的艺术

清晨领导力1561丨约翰·科特：在节奏缓慢的社会里，组织只需要一位好领导。而在飞速发展的社会中，则需要高层领导团队的精诚协作。

荐书《学习领导力》|库泽斯&波斯纳：学习领导力，首先要破除五个迷思！

清晨领导力1560丨约翰·科特：高度的紧迫感是指一种没有自满情绪的状态，人们总是同时寻找问题和机会。

钟睒睒喊话张一鸣：我在等待你们诚恳的道歉！

荐书《在悖论中前进》|田涛：德鲁克，一位悟道醒世的管理布道师·纪念德鲁克诞辰115周年

清晨领导力1559丨约翰·科特：终身学习者勇于冒险。当我们大多数人稳定下来时，他们却一直在尝试。

【12月12-15日·深圳】全球经典领越®领导力第二十七期公开课暨导师认证，修炼如何迎接领导力挑战的操作系统

清晨领导力1558丨约翰·科特：文化变革并非易事。你只有成功地改变了行为，并带来绩效改善，文化改变才可能发生。

比亚迪 30 周年，王传福：信仰技术、敢想敢干是真正的「商业机密」

清晨领导力1557丨约翰·科特：文化变革并非易事。你只有成功地改变了行为，并带来绩效改善，文化改变才可能发生。

孟晚舟最新演讲|优秀，是时间淬炼下的坚定，也是在不懈攀登中的沉淀

清晨领导力1556丨约翰·科特：共同价值观是一个集体绝大多数人的共同关注和目标。

清晨领导力1555丨约翰·科特：文化之所以会持续多年，是因为人们倾向于按照这种标准行动，非将它传授给新成员；

荐书《在悖论中前进》|华为高级顾问田涛：真正卓越的企业家，无不是悖论主义者

清晨领导力1554丨约翰·科特：杰出的领导者愿意从长远角度考虑问题。

黄仁勋对话孙正义：每个人都应该拥有一个 AI 代理（“数字员工”）

清晨领导力1553丨约翰·科特：除非变革实践已经取得了新的平衡，而且已经融入了公司文化，否则这些实践成果很容易遭到破坏。

人人都有领导力|李子柒2天3更，播放量破5亿！

清晨领导力1552丨约翰·科特：人们对于变革的非理智的、政治性的抵制永远不会完全消失。在变革中，反对力量总是伺机反扑。

AI前沿|微软 AI CEO 苏莱曼清华演讲：AI 发展应首要立足人类需求与感受

OpenAI安全副总裁、北大校友Lilian Weng的离职，有时间写博客了！

清晨领导力1551丨约翰·科特：所有变革的成功都是卓越领导和优秀管理的结合。

荐书《搞砸》|特朗普！“病态领导力”和他的追随者

清晨领导力1550丨约翰·科特：短期胜利有助于增强变革的推动力。持观望态度者会转变成支持者，而支持者也会转变成积极参与者。

荐书《组队》|马斯克身上最值得我们学习的素质

清晨领导力1549丨约翰·科特：一个好的短期胜利至少包括以下三个特点：可见、明确性、目标相关。

不断超越|22岁的郑钦文勇夺WTA年终总决赛女单亚军，精彩非凡的2024年！未来可期！

清晨领导力1548丨约翰·科特：对于阻碍变革的主管，最佳解决办法是坦诚的对话。

荐书《园丁与木匠》|养娃的底层逻辑：做有培育能力的大人

清晨领导力1547丨约翰·科特：变革中授权的最大障碍主要来自四个方面：组织结构、员工技能、公司制度和部门主管；

企业家马斯克的判断力与执行力助力特朗普赢得大选！

于泽远：中美关系将迎来惊涛骇浪？

约瑟夫·奈：特朗普2.0时代美国仍将在美中竞争占上风

特朗普宣布获胜，对华经贸政策分析

清晨领导力1546丨约翰·科特：所有成功的变革都要经过千百次的沟通，以帮助员工解决认知和情感方面的困惑。

郑钦文再创记录，WTA年终总决赛强势晋级！

清晨领导力1545丨约翰·科特：人们头脑中信息众多，任何的沟通都一定要和许多其他信息进行较量之后，才会引起我们头脑的注意。

金灿荣：一件影响美国未来国运的大事将发生

清晨领导力1544丨约翰·科特：请记住那句谚语：如果我有更多时间，我会把信写得更短一些。

荐书|微软AI CEO穆斯塔法：AI将在 2025 年实现记忆并释放出新的创造力，将成为我们的“第二大脑”

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉