21CTO导读:Jeff Dean离开谷歌后首亮相:他试图拆解在Google的“前半生”,解密新公司与自己的愿景与目标。
2026年8月7日,美籍亚裔先锋者论坛在斯坦福大学举办。本场对谈由加州大学伯克利分校教授、网络安全与人工智能学者宋晓冬(Dawn Song)主持。
他要对谈的嘉宾是谷歌前首席科学家杰夫·迪恩(Jeff Dean)。在过去二十余年里,杰夫一手打造了 MapReduce、Bigtable、TensorFlow、TPU、MoE 以及 Gemini 等一系列塑造了现代人工智能世界的底层或基座。
这场对谈距离杰夫·迪恩宣布离开谷歌仅仅过去了十二个小时。
在结束了长达 27 年的谷歌生涯后,杰夫与四位多年的老搭档共同创立了新公司 Discovery Loop,试图用人工智能去加速科学研究与工程创新本身。这也让本次对话成为了他转身离开后的首次公开访谈。
在双方的对谈中,杰夫·迪恩不仅重温了那些影响深远的技术是如何从灵感一步步走向现实的,也分享了他对于未来十年人工智能与科学探索的全新思考。
宋晓冬:在开始之前,我想先分享一段将近十年前的往事。那是 2017 年的 ICLR 大会,当时参会的人还不算多,远没有今天的盛况。
那一年,我们团队关于代码生成的一篇论文拿到了最佳论文奖。杰夫,不知道你还记不记得,当时你特地走过来向我祝贺,还开玩笑说:“今年一共三篇最佳论文,一篇是你们的,另外两篇来自谷歌。”
祝贺完之后,你马上兴致勃勃地向我聊起了你们刚完成的一项研究——混合专家模型(MoE)。你当时写的那篇论文题目叫《极致庞大的神经网络:稀疏门控的混合专家层》。
坦率地说,我当时只觉得这个想法很大胆、很有意思,但我完全没料到它后来会对整个人工智能行业产生如此深远的影响。今天,几乎所有最前沿的大模型,背后都有 MoE 的影子。
杰夫·迪恩:MoE 最初的想法其实并不复杂。我们一直希望模型能够记住和学习更多的东西,这就需要让它的容量足够大;但如果每次处理信息都要把所有参数全部算一遍,计算成本又高得让人无法承受。
于是我们就想:为什么非要让所有参数每次都参与计算呢?
人脑也是这样的。你的大脑里有不同的区域分管不同的事情。当你读一首诗的时候,大脑激活的是这一块区域;而当你开车时前面突然有辆车倒退过来,负责危险感知的另一块区域会瞬间接管。它们并不会一直同时运转。
所以我们做了一个模块化的设计:模型里有很多个“专家”,每位专家擅长不同的事。在实际运行时,它只需要根据眼前的任务,调用最合适的那几个专家就可以了。
我们当时之所以对 MoE 有信心,是因为实验表明,相比传统模型,它能把训练效率提升将近 10 倍。在做研究时,如果你发现一个方法能带来数量级上的改善,你就知道自己大概率踩对了一条重要的路。
宋晓冬:过去二十年里,你几乎参与了现代计算基础设施发展的每一个关键节点。回顾这段历程,最让你感到意外的变化是什么?
杰夫·迪恩:最深刻的变化,其实是深度学习把原本彼此孤立的很多领域给打通了。
大约在 2011 到 2012 年的时候,我们开始尝试把神经网络做大。当时我们发现,只要把模型规模扩大几倍,图像识别和语音识别的错误率就会大幅下降,甚至一举超过了过去二十年传统方法积累下来的成果。
在过去,做计算机视觉、做语音识别、做自然语言处理的人,用的是完全不同的工具和思维方式,彼此之间很难交流。但深度学习带来了一个统一的视角:大家开始相信,不需要人为去设计那么多复杂的规则,只要有足够的数据和算力,系统就能自己从原始数据里学会如何理解这个世界。
无论输入的是一张图片、一段声音还是一页文字,本质上都是在解决学习的问题。这种统一的思想,彻底改变了大家看问题的方式。
宋晓冬:聊聊 TensorFlow 吧。它曾带领无数开发者第一次走进了深度学习的大门。如果今天重新来设计 TensorFlow,你会做哪些不同的选择?
杰夫·迪恩:TensorFlow 最初的核心理念,是想把研究者从繁重的工程细节里解放出来。作为一个做算法研究的人,你关心的应该是模型本身,而不是这个模型到底该怎么切分到几百块显卡或上千台服务器上去跑。我们希望框架能够自动帮大家把这部分底层的脏活累活干掉。
同时,我们也坚持把它开源。因为只有工具是一样的,研究成果才能被大家复现和继承,而不是每个人都在重造轮子。
但如果重新来过,我们确实有两个遗憾:
第一个是没有从第一天起就采用即时执行(Eager Execution)。早期的静态图虽然性能好、易于部署,但对写代码的人来说并不直观。后来 PyTorch 和 JAX 把这种更自然的交互方式带火了,我们也补充了这一能力。如果重来,我会更早去做这件事。
第二个教训是当年在开源库里建了一个叫 contrib 的扩展目录。当时本意是想鼓励大家贡献代码,结果后来这个目录变得过于杂乱,同一个功能出现了五六种不同的写法,反而给开发者带来了很多困惑。
一个框架的核心应该始终保持简洁和稳定,实验性的东西不应该一股脑塞进官方仓库里。这是我们后来才吸取的教训。
宋晓冬:很多工程和研究往往在多年之后才显现出它的基础设施价值。你是怎么判断一个方向是具有长期价值的突破,还是仅仅是一时的热点?
杰夫·迪恩:我其实没有太神秘的方法,但有一个坚持了很多年的习惯:保持足够宽的视野。
我常跟学生说,与其花很多时间精读一篇论文,不如快速浏览十篇论文,甚至只是看一百篇论文的摘要。我并不是鼓励浅尝辄止,而是想在脑子里建立一张关于整个技术演进的动态地图。这里有人提出了新的训练方法,那里有人尝试了新的硬件,当这些零散的点慢慢连成线时,你就能看到未来的走势。
至于什么样的问题值得投入五年甚至更久?
我的体会是:不要去做那个你完全不知道从哪里开始的问题,那可能需要二十年;也别去做那个所有人都知道下一步该怎么做的问题,那更像是一个常规的工程项目。 真正值得投入的,往往是你能看到一部分前路,但最关键的那一段还没有人走过的问题。
另外还有一个习惯,就是坚持第一性原理,常做草稿纸式的快速估算。在动手写代码之前,先在脑子里粗略算一下:处理这些数据需要多久?传输成本要花几秒钟还是几百年?很多时候,仅仅通过这种数量级的估算,你就能避开九成走不通的弯路。
宋晓冬:随着 AI Agent 展现出越来越强的自主能力,甚至能够自动寻找安全漏洞、规划攻击路径,你如何看待它带来的风险?
杰夫·迪恩:任何足够强大的技术都是一把双刃剑。
以网络安全为例,AI 可以帮你找出系统里的漏洞并提前修补,但同样的能力如果落入恶意攻击者手里,也会被用来寻找突破口。这就演变成了一种双方工具都在升级后的持续对弈。
但我认为,并不是所有问题都需要靠纯技术去锁死,社会制度本身也是解决方案的一部分。未经授权入侵系统原本就是违法行为。随着技术的发展,法律、监管以及责任的界限该如何演进,是整个社会需要共同去探讨和适应的,而不单单是计算机专家的事情。
宋晓冬:你在谷歌工作了 27 年,今天突然宣布离开并创立 Discovery Loop,大家都很关心,有什么事情是你在创业公司能做,而在谷歌做不到的?
杰夫·迪恩:首先我非常感激在谷歌的 27 年,那里有世界上顶级的工程团队和研究环境。我今天离开,绝不是因为那里缺少机会,而是我想重新开启一段纯粹的新旅程。
有时候,一家规模很小的团队能拥有大型组织难以具备的专注。当十个人每天睁开眼想的都是同一件事,所有的沟通成本、协调成本和多目标平衡就会瞬间消失。
我们新成立的公司 Discovery Loop 想做的事情,叫做科研与工程创新的自动化。
过去我们做过很多尝试,比如让 AI 自动去设计更高效的网络结构。但我们现在想做的,是把整个科学研究的闭环自动化——拆解问题、提出假设、设计实验、运行验证、根据结果迭代下一步。
过去,一个科学家不可能同时精通二十个学科,但大模型有机会打破学科之间的壁垒,去发现那些被人类忽略的交叉点。我们希望把原本需要几周甚至几个月才能完成的实验循环,压缩到几分钟内,并同时运行成千上万个实验。
我和四位老搭档认识了二三十年,过去一起做过 MapReduce、Bigtable、TensorFlow 和 MoE。今天我们重新聚在一起,不是为了再训练一个更大的模型,而是希望帮助整个人类更快地做出科学发现。
这也是为什么我们将新公司注册为一家“公共利益公司”。如果有些决定虽然不符合短期商业利益,但能让更多科学家和研究机构受益,我们依然愿意去做。
在过去的四分之三世纪里,杰夫·迪恩的名字几乎与现代基础设施的演进画上了等号。从早期的分布式计算,到深度学习的全面铺开,再到支撑起大模型时代的架构创新,他的工作像是一根看不见的管线,悄然滋养着整个数字世界。
然而,当所有人以为他将在庞大的谷歌帝国里继续稳坐中枢时,他却选择在 27 年后悄然卸下桂冠,从零开始。
这或许正是一个纯粹的工程师思想者的宿命:当一个领域已经从荒野变为繁华的都市,真正的开拓者往往不会选择留下来享用秩序,而是会重新整理行囊,走向下一片未知的深空。
从“构建支撑世界的计算网络”,到“让机器学会自己去做科学发现”,杰夫·迪恩和他的同行者们,正试图将人类科学探索的拨号上网时代,推向光纤宽带时代。
而对于每一个身处这个时代的人来说,能够亲眼见证这种探索的延续,本身就是一件值得庆幸的事情。
作者:场长
本篇文章为 @ 场长 创作并授权 21CTO 发布,未经许可,请勿转载。
内容授权事宜请您联系 webmaster@21cto.com或关注 21CTO 微信公众号。
该文观点仅代表作者本人,21CTO 平台仅提供信息存储空间服务。
请扫描二维码,使用微信支付哦。