2026年6月2日，斯坦福商学院。Google DeepMind联合创始人兼CEO、2024年诺贝尔化学奖得主Demis Hassabis坐在斯坦福校长Jonathan Levin对面，给出了科技界迄今最大胆的精确预测：AGI将在三到五年内到来，误差不超过一年。

"我们正站在奇点的山麓。"Hassabis如此定义这个时代。他量化这场变革的方式近乎惊悚，影响是工业革命的10倍，速度快10倍，相当于十年内完成一个世纪的跃了。

作为亲手将AI从学术理想拽入商业绞杀的关键推手，Hassabis罕见地坦承：今天的产业正处于"有史以来最激烈的竞争环境"，实验室之间是典型的囚徒困境，"任何花更多时间让产品更安全的人，反而处于劣势"。

以下是这场对话中最重要的七个判断：

1. AGI不是渐进改良，是三五年内砸下来的文明级断层：Hassabis给出的误差窗口不超过一年，这意味着人类历史上最剧烈的权力重组，已经被写进了倒计时。

2. "工业革命100倍"可能仍是低估：当技术影响被量化到这种程度，所有基于线性推演的社会契约，包括就业、教育、财富分配都变成了过期文件。

3. 最大的AGI推手，正在亲手否定自己创造的游戏规则：Hassabis坦承DeepMind参与构建的竞赛逻辑是典型的"囚徒困境"，而他却要求政府介入来打破这个困局——这相当于赛道上的领跑者突然要求裁判吹停比赛。

4. 安全与速度的博弈中，"负责任"反而是自杀：他直言任何花更多时间做安全测试的实验室，都会在与对手的竞争中处于劣势，这意味着道德选择正在被市场机制系统性惩罚。

5. 经济学家还在追问GDP贡献，但旧经济学已经死亡：后稀缺世界将首次打破零和博弈的假设，而今天的凯恩斯主义者连AI对生产率的统计都还没搞明白。

6. 顶尖科学家对"需要什么制衡"毫无共识：当监管对象本身每天都在变异，连第一线的研究者都无法列出一份简短的安全清单，任何静态立法在出台瞬间就已经过时。

7. 这是一场没有防火墙的核试验：最懂技术的人同时是最大受益者、最清醒的警告者，也是最无力阻止雪崩的人——先知与纵火犯，是同一个人。

开场介绍与欢迎致辞

Sarah Soule：很高兴看到大家齐聚一堂，参加与Demis Hassabis的对话。今天我们特别荣幸邀请到校长Jonathan Levin主持这场炉边对话。

斯坦福大学的独特之处在于：一些最重要的思想并非诞生于单一学院或学科内部，而是在学院与机构的交叉地带。随着AI开始重塑社会的几乎每一个领域，这种跨校协作的精神在当前显得尤为重要。而在医学领域，这种影响最为深远。我本人通过商学院与斯坦福医学院的紧密合作深切感受到了这一点。

医学院正在开展一项非凡的工程，汇集社会科学家、科学家、临床医生、工程师和创新者，共同重新构想癌症创新与护理，改变患者从预防到康复的全程体验。这一愿景雄心勃勃，需要一所伟大大学全力以赴。斯坦福的优势不仅在于各领域的卓越表现，更在于连接不同领域的能力。我们将AI研究者与医生、组织领导者与科学家、创业者与致力于人类福祉的人士联结在一起。这也是今天的对话如此重要的原因之一。

Demis Hassabis是一位人工智能研究员、企业家和诺贝尔奖得主，他的工作正处于这些交叉点上。他是全球领先的AI研究公司之一Google DeepMind的联合创始人兼CEO。DeepMind于2010年创立，2014年被Google收购，如今已成为Google AI战略的核心，并取得了该领域一些最具里程碑意义的突破。这些突破包括AlphaGo，第一个在围棋比赛中击败世界冠军的程序；以及AlphaFold，它通过精确预测蛋白质的三维结构，解决了困扰科学界50年的蛋白质结构预测大挑战，对疾病理解和药物发现意义深远。凭借这项成果，Demis与John Jumper和David Baker共同获得了2024年诺贝尔化学奖。他还是英国皇家学会和皇家工程院院士，2024年因对人工智能的贡献受封爵士，并多次入选《时代》全球最具影响力人物榜单，包括2017年和2025年。

但在斯坦福，这个时刻之所以格外引人注目，是因为我们围绕AI的讨论从来不仅限于能力，也关乎人类福祉。数年前，李飞飞教授和Jennifer Aaker教授在斯坦福开设了一门名为"AI for Human Flourishing"的课程，围绕一系列深刻的问题展开：做一个人意味着什么？人类繁荣是什么样子？技术何时推动这些目标，何时又可能削弱它们？其中有一个洞见让我印象深刻：某些形式的"摩擦"实际上是承载意义的。寻找恰当词语的挣扎、艰难对话的不适、学习新事物的挑战，这些并非需要消除的低效，恰恰是成长、自主、韧性和意义得以产生的原体验。正因如此，今天的讨论才格外重要。

在斯坦福，AI的进步并非抽象概念，它们已经在重塑我们对发现、诊断、领导力、学习以及人类潜能本身的认知。AI的发展也迫使我们思考更深层的问题，关于判断力、伦理、制度，以及我们最终希望技术帮助我们构建什么样的生活。感谢各位的到来，现在让我们欢迎校长Jonathan Levin和Demis Hassabis上台。

Hassabis的职业之路

Jonathan Levin：Demis，欢迎你来到斯坦福。

Demis Hassabis：非常高兴来到这里，感谢大家的到来。

Jonathan Levin：非常感谢你能来。我会问你一些问题，之后也会留时间给学生提问。你最近的经历被广泛报道——有电影、有书，很多人都了解你的人生轨迹。这确实很不寻常：国际象棋神童、游戏开发者、科学家、科技创业者与领导者、诺贝尔奖得主——这只是你职业生涯的前半段。如果要为你所做的这些事情画一条主线，那会是什么？

Demis Hassabis：我认为实际上有几条主线，贯穿在那些看似互不相关的领域之中。首先，我一直非常享受在创造力与技术的交汇处工作，这是一个非常宽泛的定义。游戏产业，也就是视频游戏行业，是我职业生涯最初的部分，90年代它曾是所有行业中最具创造力的空间之一，利用前沿技术与艺术和设计相结合，创造出一个全新的娱乐媒介。那是一段非常精彩的时光，可以说是我整个职业生涯中最快乐的一段。而国际象棋和神经科学，我做的所有这些事情，都源于一个从很小就扎根于我心中的信念：从事AI和AGI的工作是一个人职业生涯中最重要、最有趣的事情。

十几岁的时候，我可能读了太多科幻作品，比如《哥德尔、埃舍尔、巴赫》这类书，以及图灵、费曼等科学英雄的传记。这些都激励着我去深刻理解我们周围的世界。而构建AI，就是我实现这一使命的表达——打造科学的终极工具。因为生命短暂，我努力将每一段经历重新利用、重新赋能，服务于那个指引了我30多年的北极星使命。

我的国际象棋训练塑造了我思考商业、组织和规划的方式，以及如何将宏大的计划分解成更小、更可控的步骤，这都来自国际象棋思维。而游戏——首先是通过开发游戏，学习大规模工程项目、运营公司、创业，然后将创造力与工程融合。其实我们今天在做AI的时候也是如此，它是一门工程科学，需要把创造性工作、科学工作与最前沿的工程结合起来，这些经历全都汇集在了一起。

最后关于游戏，众所周知，我们在DeepMind早期将游戏作为测试算法的完美试验场，最著名的就是AlphaGo——我们刚刚庆祝了它诞生十周年。今天回看，AlphaGo或许标志着现代AI时代的开端。

Jonathan Levin：你在2010年左右正式进入AI领域，创办了DeepMind，带着一个非常宏大的愿景：先解决智能，然后用它解决一切。进展如何？哪些是按计划进行的，哪些又有偏差？

Demis Hassabis：大的方向走得非常好，甚至好得令人难以置信。想想看，2010年我们创办DeepMind的时候，我们去找英国的VC——当时英国的风投并不多——然后告诉他们我们的商业计划：第一步，解决智能；第二步，用它解决一切。人们听了都很困惑。但我们是真的这么想的。实际上我们可能还会重新用回这个使命宣言，因为"解决智能"意味着构建AGI，最好在构建AGI的过程中也能理解智能的本质，或许还能用AGI来帮助我们理解自己的大脑和心智，比如意识的性质、什么是创造力、什么是梦境，这些都是关于心智的深层奥秘。我学习神经科学的原因之一，就是试图从我们对大脑的理解中汲取灵感，用于算法设计。

所以第一步是尝试构建AGI。而我们一直有一个预期，后来也确实发生了——AGI是一种通用技术，甚至可以说是终极通用技术。如果它以正确的方式构建，是一种非常通用的学习系统，那么它的应用极限在哪里？它可以应用于几乎所有事情，这是我们当年的梦想，而今天这已经被证实了。对于第二步，推进科学与医学，我心中早有具体目标。我说的"用它解决一切"指的就是科学中的那些重大问题，所有这些问题。我对它们都着迷：时间的本质、现实的本质，这可能是最根本的一个。我在学校时最喜欢物理，如果你对重大问题感兴趣，你最终可能会去学物理。但我之所以决定不直接做物理，是因为有趣的大问题太多了，一个人穷尽一生也不可能全部涉猎。所以在我看来，解决之道是构建新工具，帮助最优秀的科学家和专家在他们各自领域取得更快进展，攻克他们面临的重大问题和重要问题。

而AI本身也是一个迷人的造物，可以说是一个值得研究的科学对象，几乎是一个全新的领域。所以对我来说，这是一个人一生能做的最迷人、最重要的事情。即使它最终没有成功，我也会想办法在学术界或其他地方继续做这件事。这是我人生中一直计划要做的事。我之前做的所有事情，国际象棋、游戏、神经科学，都是以不同方式积累经验和知识，以便在2010年那个我觉得、我们认为我们已经准备好快速推进的时刻，去尝试像DeepMind这样的项目。至于"用它解决一切"的第二部分，现在已经远远超出了科学和医学的范畴，尽管我个人一直在以及运营整个组织的同时，努力把工作聚焦在这些领域——但显然AGI还将对生产力以及科学和医学之外的许多其他领域产生巨大影响。

从AlphaGo到AlphaFold

Jonathan Levin：你在DeepMind构建了不同的模型，从游戏开始，然后进入科学领域。有没有某些特定的时刻——我知道你一开始就充满信念，但我想知道有没有某些时刻让你觉得：这真的能行？

Demis Hassabis：确实有很多时候我觉得可能不行。有些时刻我记得非常清楚。我们从游戏开始，因为它们是自成一体的，是由人类设计出来供其他人类挑战或娱乐的。我热爱游戏，它们往往是现实世界许多场景的缩影。想想围棋、扑克或国际象棋。我经常想，如果MBA或商学院要开一门课，应该设一个游戏模块来研究这些类型的游戏，比如外交游戏。最好的游戏都蕴含着现实生活中有趣的方面，而且你可以在安全场景下反复练习。这就是游戏的用处，对于正在学习的AI系统也是如此。它们提供了干净的环境、具有挑战性，并且有清晰的目标函数，这对我们早期做强化学习也非常重要。

当时几乎没有人把强化学习用在任何规模化的难题上。它当然是一个学术领域，但主要被用于玩具问题，比如小型的网格世界。没人清楚它能否扩展到真正重要的问题上。于是我们从最经典、最广为流传的游戏开始——70年代的Atari游戏。

我们从最简单的游戏开始：Pong，就是两个球拍和一个球。系统里内置了一个AI对手，它利用游戏中关于球位置的所有信息来移动球拍。而我们想做的是：能否仅凭屏幕上的像素来玩Pong？只有原始数据、原始视觉输入，没有其他信息，没有特权信息，不访问程序内部关于球的位置或速度的数据。虽然程序本身知道这些信息，但我们没有给那个被称为DQN系统的Atari系统任何这类信息。它只能看到屏幕上两万个像素。这在今天看来也许微不足道，但在2010年，那是巨大的输入数据量，没有人处理过如此复杂的东西，再乘以每一帧的运算量。

大约有——感觉像是六个月，也许实际上只有两个月——我们在Pong中连一分都赢不了。球拍就在那里乱晃。你会想：它究竟能不能控制住球拍？它对这些概念一无所知，每次都21比0输给内置AI。我当时真的在想，我们尝试了好几种不同的方法，但几乎没有资金。我们只有几百万美元的融资，在今天连一个实习生的费用都不够。对在座的学生来说这也许是好消息，那就是我们当时的全部资金。我们几乎不领薪水，钱也快花光了。我当时想：好吧，也许我们还是早了十年，甚至早了二十年。然后奇迹发生了，它得了一分。我当时想：也许只是运气。然后它开始赢很多分，再然后它开始赢下整局比赛。然后我就想：好了，我们起飞了。

在座做机器学习的人都知道，一旦你有了一个立足点，你通常就能爬出来。这就是AI的历史。一旦某样东西开始起作用，通常就有办法进一步优化它。Atari项目就是这样。那是我们的第一个重大成果，第一篇Nature论文，那是第一个真正大规模的深度强化学习模型，将深度学习与强化学习结合，前者用于学习领域知识、处理感知输入和输入的复杂性、从中找出模式，后者则在之上进行决策和规划。而这最终在AlphaGo上达到了顶峰，那一直就是我们的目标。

Dave Silver和我负责那个项目。我们是剑桥大学的本科朋友，从90年代中期还在读本科时就开始讨论这个问题。深蓝对卡斯帕罗夫的那场比赛发生时我们正好在大学里。我自然对国际象棋和AI两方面都很着迷，但卡斯帕罗夫的大脑给我的印象比深蓝更深刻。因为卡斯帕罗夫凭借他那不可思议的大脑——他仍然是历史上最伟大的国际象棋天才之一——竟然能与旁边那台超级计算机暴力机器势均力敌地对抗。而他还能用大脑做其他所有事情：说五种语言、搞政治、开车、做所有人类能做的事情。在我看来那才是不可思议的，远比深蓝更令人印象深刻。

所以深蓝系统缺少了某种东西。那些专家系统技术——手工整理启发式规则，然后在上面叠加暴力搜索——这在国际象棋上行得通，到今天很多传统国际象棋程序仍然在用，但它从未在围棋上成功过。因为围棋是一种极其复杂的游戏，没有子力价值差异，每一个棋子都是同等价值，它关乎模式和直觉，顶尖围棋选手就是这样下棋的。所以我们想：如果有人能达到围棋世界冠军的水平，关键不在于这个成就本身，而在于我们采用的方法，那可能是一种真正有趣的算法方法，有希望能够推广到其他领域。这就是AlphaGo后来的故事。

它的成果超出了我们最狂野的梦想。不仅是因为它在2016年击败了李世石，还因为它创造出了前所未见的全新策略。尽管围棋是人类发明的最古老的游戏，有2000多年的历史，而职业围棋已有数百年，我们却从未发现过那些策略。所以对我来说那是一个双重的震撼：我一直期待AI能够提出新颖的东西，而它做到了。那正是我在等待的时刻。在那之后，我开始将AI用于科学。我们从首尔一回来，就启动了AlphaFold项目。

Jonathan Levin：那我们谈谈科学。你进入了蛋白质折叠问题，再次选中了一个有数据、有清晰目标函数的问题——这次是关于蛋白质折叠的思考。它成功了。你确实解决了这个长期悬而未决的蛋白质结构预测问题。而在AlphaFold取得这一具有诺贝尔奖级别的科学突破——它显然也极具商业价值——之后，你做了一个非常有趣的决定：你免费把它公布了出来。你是如何做出这个决定的？是否考虑过其他方式？

Demis Hassabis：是的。蛋白质折叠问题是我在剑桥读本科时就关注的目标。当我第一次遇到它的时候，我有一些生物学家朋友，他们对蛋白质折叠问题非常着迷，后来他们中的一些确实成为了结构生物学家。我记得有一个人，每次我们在酒吧里玩桌上足球的时候，他都会滔滔不绝地谈论这个，他坚信这是生物学中最重要的课题。而我认为它更是一个根本性的问题：如果你能解开它，找到蛋白质的结构，就能开启全新的研究路径，药物发现当然是其中之一，还有基础生物学和疾病理解。这是一个值得投入大量精力和时间的问题，因为它带来的下游效应是巨大的。

同时，它对我来说也是一个迷人的问题，一个终极的三维拼图：一段氨基酸序列如何折叠成三维结构？这非常奇妙，充满了精妙的细节。我越深入了解蛋白质，对它们的敬意就越深。生命中的一切都依赖蛋白质，当你开始研究它们的结构时，你就能理解它们的功能。这对作为科学问题来说已经足够迷人了。而且，它有一个清晰的目标函数——最小化系统的自由能。从物理学角度来看，这是物理法则在做的事。你的身体里，蛋白质在毫秒级时间内完成折叠，每秒发生数十亿次。所以物理已经解决了这个问题。这其中必然存在某种拓扑结构，也许你可以通过深度学习系统来学习，用它来引导搜索，就像我们用AlphaGo在围棋中找到好棋一样。围棋中的可能性比宇宙中的原子还多，而蛋白质折叠的搜索空间甚至更大。有没有一种方法能合理地缩小搜索范围？用深度学习模型学习一种启发式方法，然后引导搜索使其变得可行。这感觉就像是我们在围棋中解决的问题在科学领域的一个高度类似的版本，将一些相同的方法和理论应用到这一领域中。

另外，当然有50年艰苦卓绝的晶体学和结构生物学工作，由许多伟大的实验室和研究人员完成。所有这些努力之后，主要数据库PDB中大约有15万个结构——这个数字其实并不大。当然，背后是巨大的努力，但存在2亿种蛋白质。15万对于机器学习系统来说是非常小的数据量。所以大多数人认为至少还需要10到20年才会有足够的数据和正确的算法来解决这个问题。但我们觉得，动用我们所知的一切技术，最终还是能够取得进展的。事实证明确实如此。

在决定如何让AlphaFold产生最大影响力时，对我来说显而易见的是：我们应该折叠所有蛋白质。因为AlphaFold不仅准确，而且极快，几秒钟就能折叠一个蛋白质。我们与位于剑桥的欧洲生物信息学研究所合作，他们托管着许多科学家使用的最大的生物学数据库，我们干脆将所有2亿个蛋白质结构都放在他们的数据库里，让查找蛋白质结构像Google搜索一样简单，连同机器学习系统对蛋白质不同部分结构的置信区间一并提供，这对生物学家来说非常重要。

当然这样做可能非常有商业价值——我不知道值几百亿美元还是什么——如果以实验方式做到这一点成本将不可估量，保守这个技术也能带来巨大收益。但对我们来说，如果仅靠自己，我们只能触及这些结构公开发布后所能产生的下游影响的皮毛。全球有300万研究人员几乎每天都在使用AlphaFold，几乎每一位生物学家、每一位医学研究人员。没有任何一个组织能独自做到这一点。所以这显然是正确的做法。而且我们也依赖公共数据来训练第一个版本的AlphaFold，因此回馈给结构生物学界也是应该的。所以对我来说这甚至不是一个问题。Google的高管们也热爱科学，完全理解这一点。并非所有公司都会做出这个决定，在这方面我给他们很高的评价。那次讨论非常顺利。

之后我们通过Alphabet旗下的Isomorphic Labs来推动下游应用。你可以把它想象成多个AlphaFold级别的突破叠加在一起，用以加速药物发现——从数年缩短到数月，也许有一天能缩短到数周，就像我们在蛋白质结构上做的那样——过去单个结构需要数年，现在只需几秒钟。

AGI机遇、恐惧与公共认知

Jonathan Levin：这是AI未来最令人兴奋的领域之一。我想把话题转到你本周早些时候说过的一句话。你在Google的一次大型活动上说，我们正站在"奇点的山麓"。

Demis Hassabis：是的，那句话引起了不少关注。

Jonathan Levin：确实如此。我想Google的公关团队对此一定很高兴。既然你说了这句话，那你到底是什么意思？

Demis Hassabis：当时我在大会闭幕时说的完整版是：当我们回首这个时代，也许十年之后回看，我们会意识到当时我们正站在奇点的山麓。我选择这个词的理由是：从技术层面看，也就是AGI，下一代真正通用的人工智能，我相信我们离它只有几年之遥了，大约20、30年前后，误差不超过一年。这真的令人震惊。我认为那将是一个巨大的变革性技术，将开启一个全新的人类纪元。这就是我对奇点的理解，许多科幻作家所描述的那个AGI到来前后的时代。

我可以感受到——即使我已经为此努力了30年——我认为就在今年，随着Agent的工作方式和Tool Use的进展，AI已经开始在人们的工作流程中变得真正有用了。当然还处于早期阶段，但确实如此。我们可以看出还有哪些额外的事情需要完成，所有领先的实验室也都在为此努力。我认为这是开端，但这只是山麓，还有很多工作要做，这只是一个开始。它不是单一的一件事，而是几种不同的技术、几个我看到的应用场景，有些我原以为还比较遥远的事情，现在看来正在汇聚。所有这些加起来让我有了这样的感受，正因如此我想要说出来。因为我认为社会需要听到这个——我们没有太多时间来为这个意义深远的转变做准备了。未来，在我看来，仍然有待书写，但接下来的几年将极其关键，将决定未来走向以及我们集体希望它成为什么样子。

Jonathan Levin：如果看民意调查，这个国家的公众对AI的感知目前非常负面——可能比其他国家的负面情绪更重。这背后有很多原因：对隐私的担忧、对政府控制的担忧、对科技公司规模的担忧、对就业的担忧。而你是领先实验室的负责人之一。你如何看待公众对这项技术的担忧？

Demis Hassabis：我认为公众的担忧是合理的。我也对这项技术的某些方面感到担忧。它是一种双用途技术。这种技术如此深远——我有时用这样的量化来描述：它的影响是工业革命的10倍，速度快10倍，也就是说在十年内完成一个世纪的变革。那大约是工业革命的100倍。老实说这可能还是低估了，但足以让我们去尝试理解并应对了。

当然，会有非常令人兴奋的事情发生，我们正在努力做的那样，比如攻克所有疾病。我认为当今社会面临的许多其他挑战，从气候到能源到疾病，都将得到AI的帮助。我对此深信不疑。实际上，如果我认为AI不会出现，我对这些挑战会更加担忧。但AI也会带来很多变化和破坏，无论是技术层面、经济层面还是哲学层面。我们必须要非常深思熟虑，汇集社会各界的智慧来讨论这个问题。技术、技术的安全性只是其中的一部分。我们需要经济学家、社会科学家和人文领域的专家一起来规划接下来会发生什么。

我认为之所以在此地公众情绪更负面，是因为其他国家的情况确实不同。比如我们刚从印度的峰会回来，AI在印度年轻人中非常受欢迎，因为他们看到了它带来的机会民主化，他们可以接触到基本上与硅谷相同的工具。我们现在处于一个令人惊叹的时刻：每个人都可以获得前沿实验室的成果，只延迟几个月而已。想想看，这是前所未有的。所以有非常惊人的一面。但我也认为部分原因在于我的一些同行的表述方式，他们在沟通和理解上不够谨慎。他们的一些论断过于肯定，而实际上存在着巨大的不确定性。这本身就是令人担忧的，但也意味着没有任何事情是已经确定的。

在我看来很多事情是未知的。任何告诉你方向性结论的人，我可以告诉你一些方向性的东西，但很多事情实际上取决于未来几年的行动，也取决于今天在场的年轻人，你们将是第一代在AI环境中成长起来的人，就像我是在计算机环境中成长起来的一样。就像每一代人一样，你们将掌握这些技术，变得超级高效。我认为至少在接下来的十年里——很难预测更远的未来——但如果你们以正确的方式使用它们，你们几乎是"超人"的。个体的创造力和可以完成的项目数量将大大增加。但这可能会改变工作的性质，可能更偏向创业型、小型化创业，而不是大公司。我不知道。它会改变很多。

我认为社会需要团结起来，认真对待这种指数级的变化。不仅仅是技术人员，经济学家和其他领域的人也需要。我们昨晚也在讨论这个问题，他们必须从现在开始认真对待，开始规划：比如我们进入一个后稀缺世界会是什么样子？每个人如何从中受益？这绝不应该只是少数人、少数公司、甚至少数国家从中受益——它应该惠及全人类。但具体怎么做？我们中的很多人已经讨论这个问题很久了，但现在我们需要答案、需要具体的事和行动。我打算尽我的一份力。多年来我一直在思考这个问题，在规划和建立影响力。我们会尽我们所能，我们当然是一个重要的参与者，但只是其中之一。好消息是，我知道所有领先实验室及其领导者，尽管他们在很多事情上存在分歧看，确实都在担忧这些问题。但我们需要更多的论坛，让我们能够更坦诚地聚在一起讨论这些。我想公众察觉到的可能就是这些有些偏差的讨论。也许有些人的信息背后有隐藏动机，比如融资或其他。我认为我们需要回归科学方法，在这个历史的关键时刻真正做到严谨和深思熟虑。

最后我想说，我认为业界和这个领域有责任更明确地展示AI的益处，不只是谈论它们，而是要展示出来。比如在健康、医学和科学领域，我认为这些都是毋庸置疑的好的东西，AlphaFold就是例子。但这样的例子还不够多。应该有20个AlphaFold。我们应该停止在假设层面谈论治愈癌症，而是真正去治愈癌症。我认为我们需要向公众展示，那些像我一样对此感到兴奋的人，那些在座的人，我们为什么感到兴奋？我们为什么倾尽一生为之奋斗？以及我们打算如何具体地降低风险，同时实现我们想看到的、社会需要的所有惊人成就？

竞争白热化时自我监管与政府介入的两难

Jonathan Levin：你刚才提出的很多观点很好——如果AI突破能带来一些实实在在的好处，比如对人类健康或药物发现的贡献，可能会改变人们的看法。我也很喜欢你试图思考得更远的尝试——设想一个生产力大不相同、可能完全不同的世界。这确实很难做到。在社会科学中，很少有人能跳出当前的框架去真正展望遥远的未来。我想起凯恩斯在大萧条时期那篇关于"我们子孙的经济可能性"的文章——非常罕见。你昨晚提到，我们现在需要新的凯恩斯。也许在座就有人将来能做到这一点。

让我再问你一个问题。多年来你一直在强调前沿实验室需要自我监管——也就是有时选择不发布某些类型的技术，因为这些技术可能带来安全威胁。而现在，很明显各个实验室正处于白热化的竞争中——全力投入、不留余力。你仍然认为实验室应该自我监管吗？你认为政府应该介入并监管AI吗？你如何看待当前的动态与你过去所谈的观点之间的关系？

Demis Hassabis：首先，给一些历史背景。我们在前面谈到技术发展得非常好，甚至超出了我20年前的乐观预期。但这项技术所诞生的环境远非理想，甚至相差甚远。15年前、10年前我就非常担心这种竞赛动力的出现：当越来越多的人、越来越多的公司、越来越多的科技领袖意识到我20多年来一直知道的事——这项技术将会多么重要。我们在房间里也讨论过这种竞赛动力的危险。不幸的是，因为技术的发展轨迹，我们最终陷入了这样的局面。

如果我能挥动魔法棒，我的理想方案是：在一个像CERN那样的研究机构中构建AGI这项通用技术，让所有最聪明的人才互相批评各自的想法，确保我们以严格的科学方法和测试来推进每一步的理解。但那样我们就不必等待，当然这意味着AGI会晚到一些，也许晚十年，但我们不需要等到AGI到来才能获得社会效益，因为在此同时我们可以从中剥离出一部分，用于像更多AlphaFold这样的专用系统来治疗疾病。这是可以做到的，因为AlphaFold是一种专用混合系统，它使用了许多通用系统所用的思想，但专精于蛋白质折叠。

这其实是我原来的愿景，你从我们最初的做法就能看出来。但后来聊天机器人改变了这一切。因为这可能是过去15年里科学方面唯一让我感到意外的事：迁移学习在语言领域竟然如此有效。你可以在不与环境互动的情况下——无论是机器人还是模拟环境——仅从互联网上就分离出语言并学习它。这非常有趣，这是另一个话题了，我有一些理论来解释原因。语言比语言学家以为的更具备"具身性"。有一部分具身性来自于人类测试者给出的强化学习反馈，因为人类是生活在真实世界中的。当我们对某些事情说"是"或"否"时，我们的具身性就以一种极低带宽的方式注入了基础模型的理解中。

所以这些都是我没想到的事情。然后这让AI成为了一种具有重要商业价值的技术，可以通过工程和资金来规模化，这就是你今天看到的局面。而这改变了整个动力结构，造成了我们今天看到的，可能是有史以来最激烈的竞争环境。我指的是在科技产业、科技时代中，也许是最激烈的，也许商学院的历史学家们会有不同看法——但身在其中，我能感受到那种难以置信的强度，所有参与者都有同感。在此基础上，你还要加上地缘政治的复杂性。所以有两重竞赛同时进行：公司之间的竞争——对它们来说几乎是生死攸关，以及中美之间的地缘政治竞争。所以是双层的，非常棘手。

在安全与安保问题上，实验室领导者们确实在进行协调和沟通。没有人希望发生灾难性的事故。问题在于我们处于一种囚徒困境之中，任何人在逻辑上都知道，如果你花更多时间让产品更安全，那比直接发布更难，所以背叛者反而占据了某种优势。这就是逐底竞争的经典问题。我们必须以某种方式改变这一点，而且是迫在眉睫。我认为部分答案在于某种形式的政府介入。当然困难在于任何与监管相关的事情都太慢了。每周都有新变化。如果我们两年前制定了某项监管措施，那今天看起来可能就是远古历史了，几乎肯定是错误的。

我有一些想法，我可能会在今年晚些时候谈论这个，监管需要是动态的。"动态"这个词通常不与"监管"挂钩，但必须如此。它必须敏捷迅速，能够根据最新进展来调整，以便适应实际风险所在，而不是应对某种多年之前被认为重要但后来证明并非如此的感知风险。静态监管对AI行不通。即便是今天，顶尖科学家们也无法就一份简短的"需要哪些制衡措施"清单达成一致，绝对不会。因为科学本身还没有定论。这一定程度上是速度造成的，但也是因为进展的速度跑在了理解的前面。这就是竞赛动力的副作用。我们需要以某种方式重新平衡这一点。我认为需要某种真正"智能"的监管——是动态的、能快速适应时代的、很可能需要由领先实验室提供信息，因为它们才真正处在第一线。

Jonathan Levin：关于如何建立AI监管体系、如何在不妨碍你提到的那些积极突破——比如攻克疾病——的前提下进行监管，以及如何应对地缘政治挑战，还有很多值得讨论的内容。

Demis Hassabis：所有的创新我们都想要，我们想攻克疾病。所以问题就是如何既赋能好的应用场景，又减少坏的风险。

Jonathan Levin：我很期待你今年拿出你的计划——那将会很精彩，也会给我们校园和全社会带来很多话题。现在我们有一些学生的问题，我想给他们一些机会。

学生问答Q&A与未来寄语

学生1：你好，Demis。我是商学院二年级学生。我的问题是：在推动AI前沿发展的同时，你如何确保健康和科学方面的红利能够公平地分配——比如在非洲和全球南方那些需求最迫切、但基础设施和研究条件最有限的地区？

Demis Hassabis：我们确实经常思考这个问题。这又回到AlphaFold的例子。我们折叠了所有蛋白质，把它们放在数据库中，任何人都可以从世界任何地方访问。全球300万研究人员来自190个国家——没错，每一个国家、每一位研究人员都能访问。

我们在早期还开展了一些合作，与瑞士的DNDi，被忽略疾病药物研发组织，隶属于世界卫生组织，合作，该组织专注于世界上医疗条件较差的贫困地区的疾病。其中一些疾病是被忽略的，因为大药厂在这些市场无法盈利。所以主要影响这些地区和人口的疾病得不到足够的研究资源。通过与这个研究所和当地许多大学的合作，我们能够让他们直接跳过繁琐的结构生物学步骤——比如分析疟疾病毒或寨卡病毒的结构——他们可以直接从已知结构开始，直接进行药物研发。这极大地加速了整个流程。

同样，在受气候变化影响的作物韧性方面，我们与Jennifer Doudna的研究所以及其他许多机构合作。因为许多植物蛋白质的结构我们之前并不了解，大部分结构生物学工作都集中在人类蛋白质上，动物和植物的数据要少得多，所以AlphaFold在这些领域的影响甚至更加显著。

最后我想说，资本主义引擎也可以在这里发挥好的作用。如果我们能让Isomorphic正在开发的药物发现平台像我所说的那样高效，从数年缩短到数月，成本从数十亿美元降低到数千万甚至数百万美元，那么我希望Isomorphic能做到的是：我们攻克那些影响较富裕地区的可怕疾病，这能赚钱，能驱动引擎；然后我们可以用公益的方式，公司可以找到治疗那些不需要回报的疾病的方法，因为它足够快、足够便宜，可以在短时间内完成。这就是我梦想中Isomorphic帮助全世界的方式。

学生2：你好，Demis。非常感谢你抽出时间与我们交流。我叫Miki，是Doerr可持续发展学院的大四学生。你详细描述了AGI如何成为人类最具变革性的技术。我想问：在进行智力开拓和提高生产力的同时，你如何看待对社会影响的责任，特别是在思考这将如何重新定义和重塑我们今天试图解决的那些挑战，以及可能带来的下游效应？

Demis Hassabis：谢谢你的问题。我始终在思考这个问题，从一开始就是这样——因为我们一直在为成功做准备。即使在15、20年前看起来非常不可能的时候，也是如此。这也是为什么我喜欢做这样的对话、与各处的人交流，这有点像一种"集结号"。现在已经非常紧迫了，我们必须认真思考二阶效应。

我认为在座的许多人、许多人文学科的学生，在我看来，现在是属于你们的时代。因为好的，我们需要把技术做好。但如果做到了，还有经济问题。如果经济问题解决了，还有关于人类境况的哲学问题。我对此非常兴奋。我是一个谨慎的乐观主义者。我对我们能够解决好这个问题非常乐观。我坚信人类的聪明才智，尤其是在压力之下。人类总是在关键时刻找到出路，而现在就是这样的时刻。但我们真的需要开始认真对待了。技术人员已经在认真对待，但社会的其他部分也需要跟上——经济学家也是。

当我和经济学家谈论正在发生的事情时，我有时感到震惊，他们相当怀疑："它在GDP中的贡献在哪里？"而我在想：这是工业革命十倍的变革，我们现在能开始做规划了吗？我认为我们需要一些像凯恩斯那样的巨人。在后稀缺世界中，旧的经济规律还会成立吗？

如果我们把技术做对，我们将首次进入人类历史上一个非零和博弈的世界。这怎么可能不需要一种新的经济体系？它必须要有。我们试验过的所有经济体系，都是在零和博弈、有限资源和稀缺世界的假设下建立的。而我在谈论的是走向星辰、利用太阳系中的所有资源，而不仅仅是地球上的有限资源。如果我们把技术做对，这在未来10年、20年、30年内是真正可能发生的。

而在那之后，还有一个更深层的问题：我们希望社会如何演化？什么是美德？什么是意义？什么是目的？这需要大量伟大的哲学家。所以我想对那些人文学科领域的人说：在我看来，现在就是从事这些课题最激动人心的时刻，只要你真正理解、真正切身感受到正在发生什么。

学生3：你好，Demis。我是二年级MBA学生。我的问题是：在你的有生之年，你希望AI不去触碰什么？你有什么不想让它涉足的东西？

Demis Hassabis：这是一个很好的问题。在科学世界的事物方面，AI是一种完全通用的技术。你可以把它看作图灵机，这是我思考它的框架。而我认为我们的大脑实际上也是完全通用的，我们是近似的图灵机。如图灵所示，任何可计算的东西，一台图灵机都可以计算。而宇宙中我们知道的几乎所有非量子事物都是可计算的。所以我们可以用我们的大脑去处理非常广泛的一般事物，这也是我们建立了现代文明的原因。如果我们停下来想一想，这本身就是一个奇迹，我觉得我们对此缺乏足够的惊叹，我们没有足够长时间地保持那种惊奇感。但这也意味着我们正在构建的这些系统也将具有图灵完备的能力。

有一点我想说的是：有一些非常重大的问题即将到来，但如果我们能多花一些时间去处理会更好。其中一个当前很热门的话题就是意识。这是一个在哲学和神经科学中还没有很好定义的问题，尽管我认为我们都有直觉知道它重要的方面在哪里。我的感觉是当前的系统并不展现意识，但其他人不同意。我的建议是，关于AI不应触碰哪些领域，我们应该首先将我们的系统构建为智能工具。这本身已经是足够的挑战了，因为这已经是AGI了。然后利用这些工具，我们应该去研究神经科学、哲学等领域，真正提出一个关于意识的更严格的定义——我认为这是可能的——然后再据此进行测试。然后也许由社会来决定我们是否要跨越第二条卢比孔河，尝试制造那些至少看起来有意识的实体。我们也许不想做出那个决定。

我认为智能和意识是可以分离的。所以你不必为了拥有一个智能系统而让系统具有意识。这是一个选择。你可以在使用一些领先的聊天机器人时感受到这种差异，它们背后有不同的理念。我的观点是：最好把这个过程分成两步，这两步对人类来说都是巨大的飞跃，而不是把两者混为一谈。

Jonathan Levin：Demis，我们这里坐满了学生。如果你回到学生时代，你会如何思考该学什么？你对他们的学习和职业规划有什么建议？

Demis Hassabis：如果我现在回到大学，我会非常兴奋。我的建议是：学习科学、STEM科目、数学和计算机科学的同学，继续学下去。如果你了解这些工具是如何构建的、它们的能力边界在哪里，你就能更好地利用它们。这在未来至少10年内仍然成立。同时，不要回避它——精灵已经不会回到瓶子里了。去拥抱这些工具能做的事情。我可以告诉你，前沿实验室忙于构建工具，我们可能连这些工具实际能力的皮毛都还没有触及，甚至今天的工具也是这样。有人称之为"能力过剩"，如果你能弄清楚如何将它们与其他东西配对、与你专长的另一个领域结合、以有趣的方式融入你的工作流程，这些工具还有巨大的潜力。

这些工具——人类有过的最强大的工具——就在你的掌中。作为个体，你能做的事情比现在多得多。它应该释放创造力。学人文学科、产品或商业的同学，也许你之前没有编程技能，但现在你不需要了——你可以用这些工具实现你头脑中的很多想法。而对于编码专家来说，你可以做到100倍以上——你能完成的项目规模将大幅提升。所以我认为它既赋能了民主化，也赋能了专业化。

所以这是一个令人惊叹的时代。但我也理解它让人担忧，因为一切都会改变。这是我能告诉你的唯一确定的事：未来十年一切都会改变，可能比大多数人预想的还要多。但任何巨大变革的时期也意味着巨大的机遇，这是必然的。世界就是你的舞台。我有些嫉妒你们中的一些人，因为你们是第一代在AI环境中成长起来的人，就像我这一代是在计算机和互联网环境中成长起来的一样。最终，未来如何构建掌握在你们手里，在座的这些学生们的手中。如果你用正确的方式、从正确的角度、带着充分的想象力和创造力来思考，这是一个非常激动人心的时代。这一点在任何时代都成立，而在像这样的巨变时期可能更加如此。

Jonathan Levin：我们昨晚也谈到，在一个充满巨变、你无法确切知道未来会怎样的时期，你必须具备适应能力和广泛的知识面。所以这将是博雅教育的黄金时代。

Demis Hassabis：所以我认为，最重要的是确保你强化自己的主体性。未来虽充满巨变，但主动权仍在我们手中。

原文章：A Conversation with Demis Hassabis, Co-Founder and CEO of Google DeepMindMind

链接：https://www.youtube.com/watch?v=DsewHeVbL-0

编译：Yanlin Hang