OpenAI再陷"宫斗":理想主义者是如何被击碎的?
时间:2024-05-28 00:00:00来自:第一财经字号:T  T

6个月前,OpenAI爆发了一场举世瞩目的内部斗争:

CEO奥特曼(SamAltman)突然被开除,106个小时后,又在员工的簇拥下复职。

自那之后,“刺杀国王”的始作俑者之一、首席科学家伊利亚(IlyaSutskever),再也没有现身。伊利亚是“深度学习教父”辛顿的大弟子,OpenAI的灵魂人物。消失前,他最后的工作,是带领名为“超级对齐”的安全团队。

GPT-4o发布会之后,伊利亚突然更新推文,宣布从OpenAI离职。首席科学家的退出,加速了OpenAI的分裂。

3天后,另一位“超级对齐”的科学家简·雷克(JanLeike),也宣布提桶跑路。简·雷克公开爆料称,两人与奥特曼等高层存在严重分歧,安全团队举步维艰。

OpenAI的文化正在“变质”,忽视安全主义而转向“闪亮的产品”。

陆续有技术大牛选择离开。

一位OpenAI员工对着媒体说道,“注重安全的员工已经对他失去了信心。信任正一点点崩溃,就像多米诺骨牌一张一张倒下一样。”

众所周知,OpenAI是一家由理想主义情结捏合起来的机构。然而,对于如何实现这一理想,OpenAI内部却渐渐衍生出了两条不同的路线。伊利亚的离开,意味着他所代表的理想主义,已经彻底败给了另一种理想主义。

科学家与狂想家

2005年的一个周日,多伦多大学教授辛顿的办公室门外,来了个不速之客。

来者是一位数学系的学生,操着一口东欧口音,表情似乎总是愁眉苦脸。彼时,辛顿是极少数仍在研究深度学习的学者,并在多伦多大学组建了一个实验室。

这个学生说,他整个夏天都在快餐店兼职炸薯条,现在他更想来这个实验室工作。

辛顿打算考考这位急于展现自己的年轻人,给了他一份反向传播的论文。这篇论文写于上世纪80年代,是辛顿最知名的研究成果之一。几天后,这个学生回来了,问他,“你为什么不求导并采用一个合理的函数优化器?”

辛顿倒吸了一口气,“我花了5年时间才想到这一点。[2]”这个学生,就是伊利亚。

辛顿发现,伊利亚有种非常强大的原始直觉,能靠“第六感”找到正确的技术路线[2]。因此,辛顿将伊利亚视作唯一一个比自己更“天才”的学生。

并且,辛顿很快发现,“技术天才”只是伊利亚身上的一个特质。

与伊利亚长期共事过的研究员谢尔盖·莱文(SergeyLevine)曾说道,他喜欢大的想法,并且从不惧怕相信。“不怕的人有很多,但他尤其不怕。”

2010年,伊利亚在阅读了一篇论文之后,便大胆宣称,深度学习将改变计算机视觉——只需要有人来推动这项研究。在那个深度学习等同于民科的时代,伊利亚这番发言,显然是有些倒反天罡的。

然而,他只花了2年,就打了所有人的脸。

2012年,辛顿、伊利亚以及克里哲夫斯基三人打造的AlexNet,以高达84%的图像识别正确率,让世界看到了深度学习的潜力,并引发了产业界的狂热追逐。

那一年,谷歌花了4400万美元的天价,只为了将AlexNet的3位作者收入麾下。

谷歌工作期间,伊利亚又开始相信一件更宏大的事情:超越人类的超级智能,已经近在眼前。

一方面,是因为他发现深度学习的游戏规则变了。

此前,研究深度学习的只有一小撮人,资源捉襟见肘。2009年时,辛顿曾短暂地在微软做过一个深度学习项目,连一张价值1万美金的显卡都申请不下来,气得他一顿阴阳怪气,“微软显然是家资金短缺的软件销售商。”

然而,自AlexNet之后,无数聪明头脑与热钱涌入,未来被加速了。

另一方面,早在学生时期,伊利亚就坚信Scalinglaws。“第六感”告诉他,超级智能并没那么复杂,只需要更多的数据与算力。

并且,伊利亚又一次证明了自己是对的。

2014年的NIPS学术会议上,伊利亚公布了他最新的研究成果:Seq2Seq(序列到序列)模型。Transformer诞生之前,它曾是谷歌机器翻译的灵魂。只需要足够的数据,Seq2Seq模型就能表现得很好。

伊利亚在路演中提到,一个弱模型永远不可能有好的表现。“真正的结论是,如果你有一个非常大的数据集和非常大的神经网络,那么成功是有保证的。”

科学家与狂想家这两张面孔,在伊利亚身上迸发了神奇的化学反应。

随着伊利亚对超级智能越发笃信,他对安全问题的重视也与日俱增。没过多久,伊利亚便遇见了知己。

理想主义的天花板

2015年,伊利亚收到投资机构YCombinator掌门人萨姆·奥特曼的邀请,前往硅谷的瑰丽酒店参与一场秘密聚会。然而,奥特曼并非这场秘密聚会的主角。

马斯克突然现身,告诉现场所有人,他打算成立一间AI实验室。

促使马斯克这么做的导火索,是数周前的44岁生日派对。

当时,马斯克邀请了谷歌CEO拉里·佩奇等一众好友,去度假村玩了3天。晚饭过后,马斯克与佩奇围绕AI展开了激烈争吵。马斯克认为AI会毁灭人类,而佩奇则不以为然,嘲讽他是个“物种主义者”,对硅基生命有偏见。

从那之后,马斯克就不怎么和佩奇说话了。

在秘密聚会的现场,马斯克等人提到,很少有科学家会考虑自己研究的长期成果。如果任由谷歌这样的

本站郑重声明:所载数据、文章仅供参考,使用前请核实,风险自负。
© 2008 北京济安金信科技有限公司 北京合富永道财经文化传媒有限公司
京ICP备12044478号 版权所有 复制必究
本站由 北京济安金信科技有限公司 提供技术支持