1、AGI的里程碑不是毫无意义的基准测试，真正的基准是世界能否以10%的速(su)度增长。AI的发(fa)展不应仅仅被视为技(ji)术进步，而应作为推动经济和社会变革的关键力(li)量。AI的潜力(li)在于其对计算能力(li)的需求(qiu)和推动，这将为超大规模计算基础设施创造巨大需求(qiu)。

2、AI的价值(zhi)在于两方面(mian)，超级规模化的参与者表现得非常好，如果(guo)回顾萨姆等人(ren)描述的方式，计算的智能对数表明，谁能够进行大量计算，谁就是大赢家。另一个有趣的现象是，尽管生成式预训练模型（如TikTokGPT）具有巨大潜力(li)，但并非所(suo)有人(ren)都对其在训练和推理两个阶段的应用感到兴奋。

不仅是技(ji)术本身，AI的价值(zhi)在于其商业模式和市场定位(wei)。AI市场不会是“赢家通吃”的格局。企业市场需要多样(yang)化的供应商，而非单一的垄断者。AI的发(fa)展将催生开源(yuan)和闭源(yuan)模型的共存，类似于Windows系(xi)统与开源(yuan)软件的关系(xi)。

3、为了支持AI的发(fa)展，微软需要建(jian)立一个全球化的超大规模数据中心网络，以满足大规模训练、测试和推理的需求(qiu)。这种基础设施需要高效利(li)用计算和存储(chu)资源(yuan)，并支持分布式计算和全球部(bu)署。

4、AI的发(fa)展不仅仅是构建(jian)模型的竞争，而是一场创造能够推动全球经济增长的“商品(pin)”竞赛。企业需要具备全面(mian)的视角，而不仅仅是专注于单一的技(ji)术或视角。AI基础设施的建(jian)设可能会出现“过度建(jian)设”的情况，这类似于互联(lian)网时代的发(fa)展历程。

5、微软在量子计算领域(yu)取(qu)得了重大突破，特别是在拓扑量子比特的研究上。量子计算的进展将为解决(jue)复杂问题（如材料(liao)科学和化学）提供新的可能性，并推动AI的发(fa)展。他预计，量子计算将在未来几年内实现容(rong)错量子计算机(ji)的建(jian)造。

6、微软在游戏领域(yu)推出了“缪斯”项目，利(li)用AI生成游戏内容(rong)并创建(jian)一致的用户体验(yan)。游戏数据将成为AI训练的重要资源(yuan)，未来的游戏将通过AI实现更丰富的交互和内容(rong)生成。

7、微软的“三大赌(du)注”是AI、量子计算和混合现实，最(zui)终如何将这些事情结合在一起，不是为了技(ji)术而技(ji)术，而是解决(jue)我们作为人(ren)类在生活中想要的一些基本问题，以及经济中想要的更多问题来推动生产力(li)。

8、纳(na)德(de)拉对AGI（人(ren)工通用智能）持谨慎态度，认为人(ren)类的认知(zhi)劳动不会被完全取(qu)代。AI的发(fa)展将创造新的认知(zhi)任务，人(ren)类将与AI共同工作，而非被取(qu)代。

9、如果(guo)纳(na)德(de)拉离(li)开微软，会创办一家专注于服务不足领域(yu)的公司，比如医疗保健、教育或公共服务。这些领域(yu)是社会中服务不足的地方，如果(guo)所(suo)有这些技(ji)术能够转化为更好的医疗保健、更好的教育和更好的公共服务，这将是一个值(zhi)得投入的领域(yu)。

以下是播客全文：

纳(na)德(de)拉 00:00

美国自称达到了通用人(ren)工智能（AGI）的里程碑，但那(na)只是毫无意义的基准测试攻击。真正的衡量标准是世界以10%的速(su)度增长，非常擅(shan)长判断什么是赢家通吃市场，什么不是。在某种意义上，这是一切的关键。如果(guo)这种技(ji)术真的像人(ren)们所(suo)说的那(na)样(yang)强大，国家不会坐等私(si)人(ren)公司去开发(fa)。我们可以将其比作量子计算中的晶体管矩阵。也许你会使用量子技(ji)术生成合成数据，然后(hou)被人(ren)工智能用于训练Beta模型。如果(guo)智能是计算的对数，那(na)么谁能够正确地进行大量计算，谁就是大赢家，对吧？

Dwarkesh Patel 00:44

萨蒂亚，非常感谢你参加播客。接下来，我们将介绍微软刚刚取(qu)得的两个突破。恭喜！就在同一天，我们在自然界的Maia 100芯(xin)片领域(yu)取(qu)得了进展，同时还(hai)有世界人(ren)类行为模型。不过，我们能继续刚才的对话吗？你在描述你在80年代和90年代看到的事情是如何再次发(fa)生的。

纳(na)德(de)拉 01:09

Dwarkesh，我很(hen)高兴来到这里。能参加你的播客真是太棒了，我一直是你的忠实听(ting)众。我喜欢你进行这些采访的方式以及你探(tan)索的广泛主题。这让我想起了我在90年代初进入科技(ji)行业的最(zui)初几年，当时有一场真正的辩(bian)论，关于这是否会有风险，或者我们是否真的能够使用x86架构构建(jian)服务器。

当我加入微软时，正值(zhi)Windows NT的起步阶段。从(cong)核心硅平(ping)台到操作系(xi)统，再到应用层，整个技(ji)术栈都在发(fa)生变革。就像当时一样(yang)，整个行业都在诉讼中。我想也许可以说，云技(ji)术就像一片沙(sha)漠，而分布式计算和云技(ji)术确实带来了巨大变化。客户端服务器架构和网络也发(fa)生了巨大变化。但这次感觉更像是一个完整的堆栈，甚至比我过去参与的还(hai)要完整。

Dwarkesh Patel 02:26

你想想，实际上在80年代和90年代，哪些决(jue)策最(zui)终成为了长期(qi)的赢家，哪些没有。特别是当你提到你在Sun Microsystems的经历时，90年代的互联(lian)网泡沫是一个有趣的案(an)例(li)。人(ren)们谈论数据中心法案(an)是一个泡沫，但同时，正是当时的建(jian)设让我们今天拥有了互联(lian)网。什么才是经得起时间考(kao)验(yan)的教训？什么是固(gu)有的长期(qi)趋势(shi)？什么是短暂的？

纳(na)德(de)拉 02:54

我认为，如果(guo)回顾我参与的四大技(ji)术转变，首先是客户端和服务器架构的兴起，这包括(kuo)图形用户交互界面(mian)和x86架构的诞生，它们甚至让我们能够构建(jian)服务器。这对我来说非常清晰。我记(ji)得1991年的PDC（专业开发(fa)者大会）。当时，微软首次描述了Win32界面(mian)。我很(hen)清楚(chu)地意识到，如果(guo)服务器也采用x86架构，会发(fa)生什么。当你拥有规模优势(shi)时，这就是你必须下的长期(qi)赌(du)注。客户端发(fa)生的事情也会发(fa)生在服务器端，然后(hou)你就能实际构建(jian)客户端服务器应用程序。这是应用程序模型的转变。网络对我们来说也是一件大事。事实上，当我加入微软时，浏览器（如网景浏览器或马赛克浏览器）刚刚出现，大概是1993年11月或12月。那(na)是一个重大的转折点。

纳(na)德(de)拉 04:24

就在我们开始客户端服务器浪潮(chao)的时候(hou)，很(hen)明显我们也将赢得这场变革。我们有浏览器的时刻，所(suo)以我们必须进行调整，而且我们做得很(hen)好。因为浏览器是一种新的应用程序模型，我们能够接受它，并用我们所(suo)做的一切来适应它。无论是超文本标记(ji)语言，还(hai)是自己开发(fa)一个叫浏览器的新产品(pin)并参与竞争，我们都在网络服务器堆栈上投入了大量精力(li)。当然，我们错过了网络上最(zui)大的商业模式，因为我们当时都认为网络是关于分布式的。谁会想到搜索会成为组织网络的最(zui)大赢家？这就是我们显然没有看到的地方，而谷歌看到了并执行得非常好。所(suo)以，我学到的教训是，你不仅要正确地把(ba)握技(ji)术趋势(shi)，还(hai)要了解这种趋势(shi)将创造价值(zhi)的地方。商业模式的转变可能比技(ji)术趋势(shi)本身更加艰(jian)难。

AI不会是赢家通吃

Dwarkesh Patel 05:48

AI的价值(zhi)在哪里创造？

纳(na)德(de)拉 05:51

这是一个很(hen)好的问题。我认为，至少在我的工作中，有两个方面(mian)我可以很(hen)有信心地谈论。首先，超级规模化的参与者表现得非常好。从(cong)根本上说，如果(guo)回顾萨姆等人(ren)描述的方式，计算的智能对数表明，谁能够进行大量计算，谁就是大赢家。另一个有趣的现象是，即使在任何AI工作负载中，例(li)如TikTokGPT，也不是每(mei)个人(ren)都对GP（生成式预训练模型）的两侧感到兴奋。

尽管如此，我认为AI加速(su)存储(chu)与计算的比例(li)非常重要。在规模上，你必须扩展它。因此，世界对基础设施的需求(qiu)将会呈指数级增长。拥有这些AI工作负载就像是来自天堂的助力(li)，因为它们对计算的需求(qiu)极为强烈，不仅用于训练，现在还(hai)包括(kuo)测试时间。AI代理将指数级增加计算使用量，因为它们不再受制(zhi)于一个人(ren)调用程序的限制(zhi)。这将为计算基础设施创造巨大的需求(qiu)和规模。因此，我认为我们的超大规模业务，尤其是亚洲业务，将成为另一个超大规模企业。这是一个重要的发(fa)展方向(xiang)。

然而，之后(hou)的情况就变得有些模糊了。你可能会说，存在一个赢家通吃的模式，但我并不这么认为。顺(shun)便说一句，这是我学到的另一件事：非常擅(shan)长判断什么是赢家通吃市场，什么不是。例(li)如，在我进入Azure的早(zao)期(qi)，亚马逊在云服务领域(yu)有非常重要的领先优势(shi)。许多人(ren)和投资者都来找我，认为游戏已经结束，我永远不会成功。亚马逊是赢家通吃。但在与甲骨文、IBM和客户端服务器的竞争中，我意识到买家不会容(rong)忍赢家通吃。结构上的超大规模永远不会成为赢家通吃，因为买家很(hen)聪明。消费市场有时可能是赢家通吃，但在企业市场中，买家是公司、企业和IT部(bu)门，他们希望有多个供应商。因此，你现在必须成为多个供应商之一。我认为即使在模型方面(mian)也会出现这种情况。因此，会有开源(yuan)模型，也会有类似Windows上的调节器。

纳(na)德(de)拉 08:39

我学到的一个重要教训是，如果(guo)你有一个闭源(yuan)操作系(xi)统，它会有一个补充，那(na)就是开源(yuan)。在某种程度上，这是对发(fa)生的事情的真正检验(yan)。因此，我认为在模型中，会有一个维度可能是闭源(yuan)的，但当开源(yuan)模型实际确保闭源(yuan)赢家通吃得到缓(huan)解时，肯定会有一个开源(yuan)替代方案(an)。

纳(na)德(de)拉 09:09

这至少是我对模型的看法。顺(shun)便说一句，如果(guo)这项技(ji)术真的像人(ren)们想象的那(na)样(yang)强大，我们不要低估它。国家不会坐等私(si)人(ren)公司去开发(fa)。因此，我不认为这是一个赢家通吃的问题。我认为这将是老一套的东西。在某些类别中，消费者可能会出现赢家通吃的网络效应。例(li)如，ChatGPT就是一个很(hen)好的例(li)子。它是一个规模化的消费产品(pin)，已经获得了真正的逃逸速(su)度。我去App Store，看到它总是排在前五名，这太不可思议(yi)了。因此，他们能够利(li)用早(zao)期(qi)优势(shi)并将其转化为应用优势(shi)。这种现象可能会在消费者市场和企业市场中出现，但我会认为它们将是不同类别的获胜者。这至少是我分析它的方式。

Dwarkesh Patel 10:11

我有很(hen)多后(hou)续问题。我们必须在一秒钟(zhong)内到达量子。但关于模型可能会商品(pin)化的想法，几十年前就有人(ren)提出过类似的论点，关于云服务，它基本上就像一个芯(xin)片和一个盒子。但最(zui)终，你和其他许多人(ren)发(fa)现，你们在云端有惊人(ren)的利(li)润率，并且找到了实现规模经济和增加其他附加值(zhi)的方法。从(cong)根本上说，即使忘记(ji)行话，如果(guo)你有AGI（通用人(ren)工智能），它就像帮助你制(zhi)造更好的人(ren)工智能，现在是合成数据和强化学习。也许未来这是一个自动化的AI研究。当然，这似乎是巩固(gu)你在那(na)里的优势(shi)的好方法。我很(hen)想知(zhi)道你对这个问题的看法。

纳(na)德(de)拉 10:57

规模。没有什么是商品(pin)化的，对吧？关于云服务，我的意思是，每(mei)个人(ren)都说云是一种商品(pin)，但当你扩展时，这就是为什么要知(zhi)道如何运行超级扩展器。你可以简单地说，我只是机(ji)架和堆叠服务器，但事实证(zheng)明，即使是超级规模的业务，也有真正的业务价值(zhi)。仅仅因为运行的知(zhi)识，在Azure的情况下，全球60多个区(qu)域(yu)的计算以及所(suo)有的计算，这是一件难以复制(zhi)的事情。

纳(na)德(de)拉 11:25

所(suo)以我更强调的是，这是一个赢家，对吧？或者，这是赢家通吃还(hai)是不是？因为你要做对，因为你想要在你的类别中获胜。我喜欢进入那(na)些大型营地的类别，在那(na)里你甚至不必冒险成为赢家。如果(guo)你认为最(zui)好的消息是在一个可以容(rong)纳(na)几个赢家的大市场上，而你是其中之一，那(na)才是真正的胜利(li)。

纳(na)德(de)拉 12:06

所(suo)以这就是我所(suo)说的，我的意思是超大规模，在模型第1层，模型最(zui)终需要在一些超大规模计算上运行。这将成为一种长期(qi)存在的需求(qiu)，因为模型需要状态。这意味着它需要存储(chu)，并且需要定期(qi)计算以在代理环境中运行这些代理。因此，我认为一个人(ren)带着一个模型跑掉并建(jian)造所(suo)有模型的极端情况不太可能发(fa)生。

Dwarkesh Patel 12:43

在超标量方面(mian)，顺(shun)便说一句，你作为一个超大规模者的优势(shi)在于，特别是在推理时间缩放方面(mian)，如果(guo)这涉(she)及到训练未来的模型，你可以摊销你的数据中心和GPU，不仅用于训练，还(hai)可以再次使用它们进行推理。

Dwarkesh Patel 13:02

我很(hen)想知(zhi)道你认为微软和Azure在超级标量中的角色是什么。它是否处于交易前？是否提供O3类型推理？或者你们只是托管和部(bu)署市场上的任何单一模型，而你们对此持不可知(zhi)论态度？

纳(na)德(de)拉 13:16

接下来，我的意思是，我们是否已经建(jian)立了至少我们想要建(jian)立的舰(jian)队的方式，这就像我们过去所(suo)做的一切一样(yang)。这不是你每(mei)年都要不断更新舰(jian)队。无论这些东西的生命周(zhou)期(qi)价值(zhi)是多少，你都会贬(bian)值(zhi)它，然后(hou)在舰(jian)队的位(wei)置上做得非常好，这样(yang)你就可以以高利(li)用率运行不同的工作。有时候(hou)它们是非常大的训练工作，需要有一个高度集中的峰值(zhi)失败，同时也需要有凝聚(ju)力(li)。这很(hen)好。所(suo)以我们应该有足够的数据中心占地面(mian)积来实现这一目标。

纳(na)德(de)拉 14:14

归(gui)根结底(di)，这些都变得如此之大，即使你说保持巅(dian)峰，例(li)如采取(qu)预训练规模。如果(guo)它需要继续下去，即使是预训练规模在某个时候(hou)也必须跨越数据中心的边界。一旦你开始跨越预训练数据中心的边界，它与其他任何东西都不同吗？我的想法是，分布式计算将保持分布式。因此，要做大。建(jian)立你的舰(jian)队，使其准备好进行大型培训工作，准备好进行测试时间计算，准备就绪。事实上，如果(guo)这个强化学习的事情发(fa)生了，你建(jian)立一个大模型，然后(hou)在那(na)之后(hou)，强化学习继续进行并对我进行测试。这有点像，再次，更多的训练失败，因为你想为不同的任务创建(jian)这些高度专业化的蒸馏模型。所(suo)以你需要那(na)个舰(jian)队，然后(hou)是服务需求(qiu)。说到底(di)，光速(su)就是光速(su)。你不能在德(de)克萨斯州有一个数据中心，然后(hou)说，我要从(cong)那(na)里为世界服务。你必须基于在世界各地拥有推理舰(jian)队来服务世界。所(suo)以这就是我对我们的想法，建(jian)立一个真正的超大规模舰(jian)队。

纳(na)德(de)拉 15:29

哦，顺(shun)便说一句，我希望我的存储(chu)和计算也接近所(suo)有这些东西，因为不仅仅是AI加速(su)器是无状态的。我需要能够不仅仅是我的训练数据本身需要存储(chu)。然后(hou)我想能够复用多个培训工作。我希望能够拥有记(ji)忆。我希望能够拥有这些代理可以执行程序的环境。这就是我的想法。

世界经济增长10%

Dwarkesh Patel 16:02

你最(zui)近报告称，微软从(cong)AI业务中获得的年收入为130亿美元。但如果(guo)观察过去四年的增长趋势(shi)，如果(guo)这种趋势(shi)持续下去，你将从(cong)AI业务中获得1300亿美元的收入。如果(guo)是这样(yang)，你期(qi)望我们如何利(li)用这些智能技(ji)术进行工业化规模的部(bu)署？这会像传统的办公软件一样(yang)，由微软部(bu)署并供他人(ren)托管吗？你是否认为AGI（通用人(ren)工智能）将成为推动收入增长的关键？这种场景会是什么样(yang)子？

纳(na)德(de)拉 16:30

是的，这是一个很(hen)好的问题。如果(guo)我们要实现这种爆炸式增长，让智能技(ji)术变得丰富且易于获取(qu)，我们首先需要观察到的是GDP增长。在我讨论微软的收入之前，我认为这是一切的起点。我们不能仅仅被AGI的炒作所(suo)迷惑，而忽视了实际的经济影响。例(li)如，发(fa)达国家的经济增长率为2%，如果(guo)考(kao)虑通货膨胀，实际增长率接近零。2025年，当我们坐在这里讨论时，我不是经济学家，但我认为我们正面(mian)临(lin)真正的增长挑战。

因此，我们所(suo)有人(ren)需要做的第一件事是推动经济增长，就像工业革命一样(yang)。对我来说，这意味着发(fa)达国家的通货膨胀调整后(hou)的增长率应达到5%或更高。这才是真正的目标。我们不能仅仅停留在供应端，必须真正理解如何将这些技(ji)术转化为客户的实际价值(zhi)。我认为，最(zui)终的大赢家不会是科技(ji)公司，而是那(na)些能够广泛利(li)用这些技(ji)术的行业。当生产力(li)提高，经济以更快(kuai)的速(su)度增长时，我们作为科技(ji)行业也会受益。但这是我们的责任所(suo)在。

这需要一些AGI的里程碑，而不是毫无意义的基准测试。对我来说，真正的基准是世界能否以10%的速(su)度增长。

Dwarkesh Patel 18:24

如果(guo)世界经济总量为100万亿美元，增长10%就意味着每(mei)年额(e)外创造10万亿美元的价值(zhi)。如果(guo)真是这样(yang)，对于像微软这样(yang)的超大规模企业来说，800亿美元似乎并不是一个很(hen)大的数字。难道不应该达到8000亿美元吗？如果(guo)几年后(hou)我们真的能够以这样(yang)的速(su)度推动世界经济增长，那(na)么关键瓶颈是否在于你是否拥有足够的计算能力(li)来部(bu)署这些AI以完成所(suo)有这些工作？

纳(na)德(de)拉 18:53

这是正确的。但同时，我认为现在有一点需要平(ping)衡。就像经典的供应端思维一样(yang)，我们可以先建(jian)造基础设施，然后(hou)等待需求(qiu)的到来。我们已经冒了足够的风险去做这件事。但在某个时候(hou)，供需必须匹配(pei)。这就是为什么我同时关注这两方面(mian)。如果(guo)你只关注供应端的炒作，而忽视如何将其转化为客户的实际价值(zhi)，你可能会完全偏离(li)轨道。这也是为什么我关注微软的AI业务收入，甚至披露这些收入数据。有趣的是，很(hen)少有人(ren)谈论他们的AI业务收入，但对我来说，这很(hen)重要。它帮助我思考(kao)如何将昨(zuo)天的资本转化为今天的需求(qiu)，即使知(zhi)道我们不会完全匹配(pei)供需，也可以继续进行指数级投资。

Dwarkesh Patel 20:07

我想知(zhi)道这两种观点是否存在矛盾。因为你在2019年对OpenAI的投资，甚至在任何实际应用出现之前，就已经做出了这些早(zao)期(qi)的赌(du)注。如果(guo)你回顾工业革命，铁路和其他基础设施的建(jian)设率约为6.10%，其中许多并没有立即带来收入，甚至可能亏(kui)损。但如果(guo)真的认为这些技(ji)术有潜力(li)将世界增长率提高10倍或5倍，那(na)么你会想，GDP的收入将用于何处？如果(guo)真的认为这是下一个层次的可能性，你不应该大胆一些，进行数千亿美元的计算投资？毕竟，这里确实存在机(ji)会。

纳(na)德(de)拉 20:52

你说得对。这是有趣的事情。坦率地说，真正的问题在于，至少对我们来说，为什么对基础设施采取(qu)平(ping)衡的方法非常重要。这不是单纯地建(jian)造计算能力(li)，而是要建(jian)造能够帮助我们训练下一个大模型，并为下一个推理模型提供服务的计算能力(li)。在你做到这两件事之前，你甚至无法真正利(li)用你的投资。

因此，这不仅是建(jian)造模型的竞赛，而是创造一种能够被世界用来推动经济增长的商品(pin)的竞赛。你必须有一个完整的思路，而不仅仅是单一的视角。顺(shun)便说一句，我认为其中一个问题是，它可能会被过度建(jian)设。你的观点也说明了互联(lian)网时代发(fa)生了什么。我看到的情况是，现在备忘录已经发(fa)布，每(mei)个人(ren)都需要更多的能源(yuan)和计算能力(li)。感谢上帝(di)，我们已经做好了准备。

事实上，我关注的不仅仅是企业部(bu)署的数量，国家也会投入资本。我很(hen)高兴我们将在2027年和2028年租赁大量容(rong)量，因为当我看到账单时，我意识到所(suo)有计算账单唯一可能的变化就是价格上涨。

AI成本下降

Dwarkesh Patel 22:23

关于价格下降的问题，你在Deep Seek模型发(fa)布后(hou)提到了Jevons悖论，我很(hen)想听(ting)听(ting)你的进一步解释。Gen的产品(pin)出现在需求(qiu)高度弹性的时候(hou)，智能是否成为价格下降的瓶颈？至少从(cong)我作为消费者的用例(li)来看，智能似乎已经很(hen)便宜(yi)了——每(mei)百万代币仅需2美分。我是否真的需要将其降至零？如果(guo)需要进行100倍更大的训练并为此支付100倍的费用，我愿意让公司承(cheng)担。但也许你在企业领域(yu)看到了不同的情况。那(na)么，智能的关键用例(li)是什么，真正需要将每(mei)百万代币的成本降至0.02美分？

纳(na)德(de)拉 23:08

我认为真正的问题在于代币的实用性。从(cong)某种意义上说，两者都需要发(fa)生：智能需要变得更好且更便宜(yi)。每(mei)当有技(ji)术突破时，比如在深度学习或其他领域(yu)，有效前沿会发(fa)生变化，性能曲线(xian)会弯曲，前沿会移动。这将带来更多的需求(qiu)。

纳(na)德(de)拉 23:35

这就是云计算的发(fa)展历程。我们曾经认为，客户端服务器时代的所(suo)有服务器已经足够，但一旦我们开始将服务器放在云端，人(ren)们开始消费更多，因为云服务更便宜(yi)且具有弹性，用户可以按需购买，而不是购买许可证(zheng)。这完全改变了市场。我记(ji)得在印度，SQL服务器的销售量有限，但印度的云市场比我们在服务器时代所(suo)能达到的规模大得多。我认为这种情况将继续发(fa)生。

纳(na)德(de)拉 24:16

如果(guo)在全球南方或发(fa)展中国家，这些代币能够用于医疗保健且价格非常低廉，那(na)将是巨大的变革。

Dwarkesh Patel 24:32

我认为在旧金山听(ting)到像我这样(yang)的人(ren)并认为他们有点不切实际是合理的。他们不知(zhi)道如何在现实世界中部(bu)署事物。作为与财富5强企业合作并为数亿人(ren)部(bu)署项目的人(ren)，您认为即使有工作代理，即使有可以远程工作并解决(jue)所(suo)有合规性和固(gu)有瓶颈的功能，这些功能的部(bu)署速(su)度会有多快(kuai)？这会是一个大瓶颈还(hai)是会很(hen)快(kuai)过去？

纳(na)德(de)拉 26:08

这是一个真正的挑战，因为核心问题在于变革管理或流程变革。跨国公司如何预测预PC、电子邮(you)件和电子表格的出现？传真曾经是主要的沟通方式，然后(hou)人(ren)们开始使用电子邮(you)件和电子表格，整个预测业务流程发(fa)生了变化，因为工作工件和工作流程发(fa)生了变化。这就是将AI引(yin)入知(zhi)识工作需要发(fa)生的事情。

纳(na)德(de)拉 27:14

当我们考(kao)虑所(suo)有这些代理时，最(zui)基本的是有一个新的工作和工作流程。例(li)如，我为这次播客做准备时，我找到我的副驾驶（Copilot），说：“我要和Rakesh谈谈我们的量子公告和为游戏生成的新模型。能不能在我去之前给我一个我需要阅读的所(suo)有内容(rong)的摘要？”它可以做到这一点，甚至可以以播客的形式呈现。然后(hou)我和我的团队分享了这些内容(rong)。对我来说，新的工作流程是与AI一起思考(kao)，与我的同事一起工作。这是一场根本性的变革，需要每(mei)个从(cong)事知(zhi)识工作的人(ren)重新思考(kao)如何以新的方式完成他们的工作。这将类似于销售、金融和供应链领域(yu)的变革。对于现有企业来说，这将是一个挑战，就像制(zhi)造业在精益生产方面(mian)的变革一样(yang)。

纳(na)德(de)拉 28:36

我喜欢这个类比，因为精益生产成为了一个方法论，如何在制(zhi)造中采取(qu)端到端的过程并变得更有效率。这就是持续改进，减少浪费以增加价值(zhi)。这就是知(zhi)识工作的来源(yuan)。这就像精益知(zhi)识工作一样(yang)，需要管理团队和个人(ren)的辛(xin)勤工作，这需要时间。

Dwarkesh Patel 29:00

关于这个类比，我想问一下：物理上的转变，比如工业4.0，揭示了人(ren)们在真正关注流程和工作流程之前没有意识到的瓶颈。你提到过你自己的工作流程以及它如何因AI而改变。我很(hen)想知(zhi)道，当这些AI代理变得越来越智能时，我们如何为经营一家大公司增添更多色彩？

纳(na)德(de)拉 29:29

这是一个很(hen)有趣的问题。我一直在想，例(li)如，我们今天的电子邮(you)件非常繁重。我早(zao)上进来，收件箱(xiang)已经满了，我需要回复。我迫(po)不及待地希望这些副驾驶代理能自动填充我的草稿，这样(yang)我就可以开始审查和发(fa)送。

纳(na)德(de)拉 29:51

但实际上，我觉得我已经有至少10个代理在副驾驶中，我将它们用于不同任务的查询。我觉得会有一个新的收件箱(xiang)被创建(jian)，这些代理将不得不向(xiang)我报告一些例(li)外情况、通知(zhi)我或请求(qiu)指示。所(suo)以我在想，未来会有一个新的框架，代理经理将成为这个框架的核心。

纳(na)德(de)拉 30:24

这不仅仅是一个聊天界面(mian)。我需要一个比聊天界面(mian)更智能的东西来管理所(suo)有代理及其对话。这就是为什么我认为副驾驶是AI的用户界面(mian)（UI），这是一件大事。我们每(mei)个人(ren)都会拥有它。你可以将其想象成知(zhi)识工作和知(zhi)识工作者的结合：知(zhi)识工作可能由许多代理完成，但你仍(reng)然需要知(zhi)识工作者与所(suo)有这些代理打交道。我认为这就是未来的一个关键界面(mian)。

微软的量子突破

Dwarkesh Patel 31:01

是的，我有点好奇，作为世界上少数能够接触20万人(ren)的领导(dao)者之一，你周(zhou)围有着像微软公司及其所(suo)有员工一样(yang)的智慧。你必须管理它，了解如何与之接口，如何让其发(fa)挥最(zui)大效用。希望未来更多人(ren)能有这样(yang)的经历。

Dwarkesh Patel 31:24

我很(hen)好奇你的收件箱(xiang)会是什么样(yang)子，如果(guo)这意味着每(mei)个人(ren)早(zao)上的销售收件箱(xiang)都会像你的一样(yang)。但在我们开始之前，我想继续问你更多关于AI的问题。不过，我真的想问你关于微软研究院在量子领域(yu)宣布的重大突破。你能解释一下这里发(fa)生了什么吗？

纳(na)德(de)拉 31:39

这对我们来说是另一个30年的旅程，太不可思议(yi)了。我是微软第三位(wei)对量子感到兴奋的CEO。我认为这里的基本突破，或者我们一直拥有的愿景是，你需要一个物理突破，才能建(jian)造一个实用规模的量子计算机(ji)。因此，我们选择(ze)了这条道路，这条路有点像说，拥有更少噪(zao)声或更可靠的量子比特的唯一方法是押(ya)注于一种从(cong)定义上讲更可靠的物理属性。这就是我们选择(ze)将拓扑量子比特作为目标的原因，它在20世纪30年代被理论化。问题是，我们真的能在物理上制(zhi)造这些东西吗？

最(zui)大的突破是，我们现在终于有了存在证(zheng)明——马约拉纳(na)零模在物质新阶段的物理突破。因此，我们将其比作量子计算的晶体管矩，我们可以有效地拥有一个新阶段，即拓扑阶段，它更依赖于方向(xiang)。这意味着我们现在甚至可以可靠地隐藏(cang)量子信息并测量它，然后(hou)我们可以制(zhi)造它。现在我们有了核心基础制(zhi)造技(ji)术，可以开始在芯(xin)片上建(jian)造一英里。那(na)个Myrana 1，它将基本上是第一个能够在物理上达到一百万量子比特的芯(xin)片，然后(hou)在成千上万的逻辑量子比特上纠错。这就出现了。因此，你现在不可能突然有能力(li)建(jian)造一个真正的实用规模量子计算机(ji)。这对我来说现在更可行了。我们一直在工作，因为如果(guo)没有这样(yang)的东西，你仍(reng)然能够达到里程碑，但你永远无法建(jian)造一个实用规模的计算机(ji)。这就是为什么我们对此感到兴奋。

Dwarkesh Patel 34:23

惊人(ren)。顺(shun)便说一句，我相信这就是它。

纳(na)德(de)拉 34:25

是的，是的。我现在忘记(ji)了。我们叫它Myorana吗？是的，没错。Myrana 1。我很(hen)高兴我们以这个名字命名它。想到我们能够在这么大的东西上建(jian)造像一百万量子比特计算机(ji)这样(yang)的东西，真是难以置信。这就是关键，除非我们能做到这一点，否则你不能梦想建(jian)造一个实用规模的量子计算机(ji)。

Dwarkesh Patel 34:55

你是说最(zui)终的一百万量子比特将放在芯(xin)片大小上。没关系(xi)。惊人(ren)。因此，其他公司已经宣布了一百个物理量子比特，如Google、IBM等。当你说你已经宣布了一个，但你说你的限制(zhi)更具可扩展性。

纳(na)德(de)拉 35:13

是的，顺(shun)便说一句，我们还(hai)做了一件事，那(na)就是我们将软件和硬件分开。因此，我们正在构建(jian)我们的软件堆栈。实际上，我们现在有了一些不同的方法，包括(kuo)中性原子的、离(li)子阱的，我们还(hai)与其他人(ren)合作，他们在光子学等方面(mian)也有很(hen)好的方法。这意味着会有不同类型的量子计算机(ji)。事实上，我们有20个，我想我们最(zui)后(hou)宣布的是24个逻辑量子比特。所(suo)以我们在纠错方面(mian)也取(qu)得了一些惊人(ren)的突破，这让我们即使在中性原子和离(li)子阱上，也能构建(jian)这20多个量子比特。我认为这将在整个一年中持续下去。你会看到我们取(qu)得进展，证(zheng)明那(na)个标准。

但我们也说，让我们遵循第一原理，建(jian)造我们自己的超级量子计算机(ji)，押(ya)注于拓扑量子比特。这就是这次突破的意义所(suo)在。

Dwarkesh Patel 36:21

惊人(ren)。一百万个拓扑量子比特，成千上万个逻辑量子比特。预计达到那(na)个水平(ping)的时间表是什么？这里的“量子摩尔定律”是什么？如果(guo)你有第一个晶体管，看起来像……？

纳(na)德(de)拉 36:34

显然，我们已经为此工作了30年。我很(hen)高兴我们现在有了制(zhi)造、物理突破和制(zhi)造分解。我希望我们有一台量子计算机(ji)，因为量子计算机(ji)允许我们做的第一件事就是建(jian)造量子计算机(ji)，因为模拟量子比特一个接一个地建(jian)造这些新的量子门会容(rong)易得多。但无论如何，对我来说，下一个真正的事情是现在我们有了制(zhi)造技(ji)术，让我们去建(jian)造第一台容(rong)错量子计算机(ji)。这将是合乎逻辑的事情。所(suo)以我想说，也许在2027年、2028年或2029年，我们将能够真正建(jian)造这个。所(suo)以现在我们有了这个门，我可以把(ba)这个东西放进一个集成电路里，然后(hou)把(ba)这些集成电路放进一个真正的计算机(ji)里。我认为，这就是下一个合乎逻辑的步骤。

Dwarkesh Patel 37:31

你在2027年或2028年看到了什么？你让它工作了。它是不是像你通过API获得的东西？这是你内部(bu)用于研究、材料(liao)和化学的东西吗？

纳(na)德(de)拉 37:43

我一直很(hen)兴奋的一件事是，即使在今天的世界，因为我们有这个量子程序，我们有HR，我们可以说，嘿，这是一个……你知(zhi)道，一些API。也许两年前我们取(qu)得的突破是把(ba)HPC（高性能计算）堆栈和AI堆栈与量子结合起来。其实仔细想想，AI就像是模拟器的模拟器，量子就像是大自然的模拟器。量子要做什么？顺(shun)便说一下，量子不会取(qu)代经典，对吧？量子擅(shan)长做量子能做的事情，而经典计算也将继续存在，因为你不能像……量子对于任何不是数据密集型的东西都将是极好的，但它在状态空(kong)间方面(mian)有更多的探(tan)索，对吧？所(suo)以它应该是数据轻，但你想探(tan)索的指数状态空(kong)间。模拟是一个伟大的领域(yu)，化学、物理和生物学也是如此。所(suo)以我们已经开始做的一件事是真正使用AI作为仿真引(yin)擎，但你可以训练它。所(suo)以我的想法是，如果(guo)你有AI加上量子，也许你会使用量子来生成合成数据，然后(hou)被AI用来训练更好的模型，这些模型知(zhi)道如何模拟化学或物理之类的东西。这两件事情将一起使用。所(suo)以即使在今天，这也是我们HPC和AI的结合。而且我希望用量子代替一些HPC的碎片。

Dwarkesh Patel 40:26

好的，回到Satya。你能告诉我一些关于你是如何做出这些研究决(jue)策的吗？这些决(jue)策在20年、30年后(hou)将真正产生回报，尤其是在微软这样(yang)规模的公司。显然，你对这个项目的技(ji)术细节非常了解。你是否可以用微软研究院所(suo)做的所(suo)有事情来做到这一点？你觉得目前的度量标准在20年后(hou)会有怎样(yang)的回报？如何决(jue)定通过组织有机(ji)地出现？或者你是如何跟踪这一切的？

纳(na)德(de)拉 40:56

是的，我觉得很(hen)棒的是比尔在1995年创办微软研究院（MSR）时的理念。是的，没错。

纳(na)德(de)拉 41:09

我认为在这些好奇心驱动的研究组织的漫长历史中，MSR多年来已经建(jian)立了这种机(ji)构实力(li)。所(suo)以当我想到资本配(pei)置、预算或其他任何事情时，你会先把(ba)筹码放进去，然后(hou)说，嘿，看，这是MSR的预算，我们必须每(mei)年都去做，知(zhi)道有些……你知(zhi)道，大多数这些赌(du)注在任何有限的时间框架内都不会得到回报。这可能是微软第六位(wei)CEO从(cong)中受益。我认为，你知(zhi)道，这是一种技(ji)术，我认为，是理所(suo)当然的。我真正想的是，当像量子或新模型这样(yang)的东西出现的时候(hou)，你有什么，你能利(li)用吗？所(suo)以作为一个现任者，如果(guo)你看一下科技(ji)的历史，没有人(ren)会不投资。

纳(na)德(de)拉 42:13

就像你需要有一个知(zhi)道如何接受创新并扩大规模的文化。这是困难的部(bu)分，坦白地说，对于CEO和管理团队来说，这有点令人(ren)着迷，对吧？也就是说，这同样(yang)关乎良好的判断力(li)和良好的文化。你知(zhi)道，有时候(hou)你做对了，有时候(hou)你做错了，对吧？我的意思是，我可以告诉你MSR的一千个项目，你知(zhi)道，我们可能应该带头，但我们没有。我总是问自己为什么，因为我们无法获得足够的信念或完整的想法，即如何不仅将创新转化为有用的产品(pin)，并具有商业模式，

微软的游戏世界模型

Dwarkesh Patel 43:35

让我们深入探(tan)讨你刚刚取(qu)得的另一个重大突破。令人(ren)惊讶(ya)的是，这些突破在同一天发(fa)布，包括(kuo)你的游戏世界模型。希望你能告诉我更多关于这件事的情况。

纳(na)德(de)拉 43:43

我们将其称为“缪斯”，因为它们将成为人(ren)类行为或世界行动的模型。这非常酷(ku)。

你看，显然多莉（Dolly）和索拉（Sora）在生成模型方面(mian)令人(ren)难以置信。我们想要做的一件事是利(li)用游戏数据，看看是否能够生成既一致又能体现该游戏多样(yang)性的内容(rong)，并且能够持久地生成用户模组。所(suo)以，我们与其中一个游戏工作室(shi)合作，这是一次自然的合作。令人(ren)兴奋的是，我们很(hen)快(kuai)就会有一个游戏库，开始使用这些模型，或者真正训练这些模型来生成内容(rong)，然后(hou)开始玩游戏。事实上，当菲尔·斯宾(bin)塞（Phil Spencer）第一次向(xiang)我展示它时，他有一个Xbox控(kong)制(zhi)器，这个模型基本上接受输(shu)入并根据输(shu)入生成输(shu)出，与游戏保持一致。对我来说，那(na)是一个巨大的时刻，就像我们第一次看到ChatGPT生成完整句子、多莉生成绘画或索拉一样(yang)。这是一个非常重要的时刻。

Dwarkesh Patel 45:15

我今天早(zao)上有机(ji)会和你的首席研究员凯蒂一起看了这些模型在实时演示中的视频。直到我和她交谈，我才真正意识到这是多么不可思议(yi)。我们过去用AI来塑造智能体，但现在我们使用同样(yang)的技(ji)术来模拟智能体周(zhou)围的世界，并获得一致的实时体验(yan)。我们将在播客中叠加视频，让人(ren)们有机(ji)会亲眼看到它。我猜它会在发(fa)布时上线(xian)，所(suo)以观众也可以观看。

Dwarkesh Patel 45:43

这本身就令人(ren)难以置信。通过你的战略(lue)投资，微软已经在游戏领域(yu)投入了数百亿美元，并收购了大量IP。回想起来，如果(guo)你能把(ba)所(suo)有这些数据整合成一个大模型，为用户提供同时访问和浏览多个游戏世界的体验(yan)，这似乎是游戏发(fa)展的一个重要方向(xiang)。如果(guo)这是游戏的未来，那(na)么我们过去的投资似乎是非常明智的。你对此有任何预感或巧合吗？

纳(na)德(de)拉 46:16

不，我不会说我们投资游戏是为了建(jian)立我们所(suo)投资的模型。坦白说，我们历史上有一件有趣的事情：我们在开发(fa)Windows之前就开发(fa)了第一款游戏。《Flight Simulator》早(zao)在我们构建(jian)Windows之前就已经是微软的产品(pin)了。所(suo)以，游戏在公司有着悠久的历史，我们从(cong)事游戏是为了游戏本身。我总是反对在企业中将某种手段作为另一种目的的工具，我们必须是自己的目的。我们不是一家企业集团，我们是一家公司，必须将所(suo)有这些资产整合在一起，通过增加价值(zhi)成为更好的所(suo)有者。例(li)如，云游戏是我们投资的自然选择(ze)，因为它将扩展游戏的可及性，让人(ren)们能够在任何地方玩游戏。AI和游戏也是如此。

我们肯定认为这可能有助于改变游戏行业，这就像长期(qi)游戏的CGI时刻。作为全球最(zui)大的游戏发(fa)行商，这将非常有帮助。但同时，我们必须制(zhi)作高质量的游戏。如果(guo)没有首先关注这一点，你就不能成为游戏发(fa)行商。然而，这个数据资产将是有趣的，不仅在游戏环境中，而且它将成为一个通用的动作模型和世界模型。这太棒了。

纳(na)德(de)拉 47:40

我认为游戏数据可能是微软的“油管”。因此，我对此感到兴奋。

Dwarkesh Patel 47:52

是的，我的意思是，你可以在许多不同类型的游戏中拥有一个统一的体验(yan)。这与微软过去所(suo)做的其他事情，比如混合现实，是如何分开的？也许这能给较小的游戏工作室(shi)一个机(ji)会，让他们在未来5到10年内构建(jian)这些AAA级动作游戏。

纳(na)德(de)拉 48:13

我把(ba)这三件事看作是基石，以一种有趣的方式。甚至在5、6、7年前，我也说过，我们想下的三个大赌(du)注是AI、量子和混合现实。我仍(reng)然相信它们，因为它们都解决(jue)了某些重大问题。混合现实的梦想是，你能像我们做这样(yang)的播客一样(yang)创造真正的存在感吗？

纳(na)德(de)拉 48:45

我认为我们仍(reng)然认为，老实说，这是那(na)些挑战中更难的一个。我以为它会更容(rong)易解决(jue)，但它可能更难，因为它的社交方面(mian)，比如穿戴设备等。我们对Adriel和Palmer现在将如何推进IVAS计划感到兴奋，因为这是一个很(hen)棒的用例(li)。所(suo)以我们将继续在这方面(mian)努力(li)。

还(hai)有2D表面(mian)，就像团队一样(yang)，对吧？在疫情期(qi)间，我们已经真正具备了通过2D创造基本存在感的能力(li)，我认为这种能力(li)将继续发(fa)展。这是一个世俗的部(bu)分。我们谈论的量子和AI是另一个。

纳(na)德(de)拉 49:32

所(suo)以这是我观察和思考(kao)的三件事：你如何最(zui)终将这些事情结合在一起，不是为了技(ji)术而技(ji)术，而是解决(jue)我们作为人(ren)类在生活中想要的一些基本问题，以及我们在经济中想要的更多问题，推动我们的生产力(li)。如果(guo)我们能以某种方式做到这一点，那(na)么我认为我们真的会取(qu)得进展。

Dwarkesh Patel 49:54

如果(guo)你写(xie)下一本书，你必须有一些解释，为什么这三个部(bu)分都在同一时间出现，对吧？就像没有入口一样(yang)。你会认为量子和AI应该在2028年和2025年等等发(fa)生。

纳(na)德(de)拉 50:04

没错。但在某种程度上，我认为我拥有的简单模型是：有系(xi)统突破吗？对我来说，这个系(xi)统的突破是量子的东西。是否有业务逻辑突破？这对我来说有点像AI，就像，我能不能从(cong)根本上改变逻辑，而不是强制(zhi)编写(xie)代码，你能有一个学习系(xi)统吗？这是AI的一个方面(mian)。然后(hou)是UI的一面(mian)，即存在感。

Dwarkesh Patel 50:36

回到AI。在你2017年的书《2019》中，你很(hen)早(zao)就投资了OpenAI，甚至在2017年之前。你在书中说，有人(ren)可能会说我们正在孕育一个新物种，一个智力(li)可能没有上限的物种。现在，当然，在2017年谈论这个问题还(hai)为时过早(zao)。到目前为止，我们一直在以一种细粒度的方式谈论代理商、办公室(shi)副驾驶和资本支出等等。但你只是放大并考(kao)虑你所(suo)做的这个陈述，把(ba)自己想象成一个超级标量的人(ren)，作为在这些模型中进行研究的人(ren)，为建(jian)立一个新物种提供培训和研究。从(cong)大局来看，你对此有何看法？你认为我们正在走向(xiang)超人(ren)的智慧吗？

纳(na)德(de)拉 51:22

Safa最(zui)近使用了“新物种”这个术语来描述它。我的看法是你绝对需要信任。在我们声称它是一个物种之前，我认为我们必须正确处理的基本问题是建(jian)立真正的信任，无论是个人(ren)层面(mian)还(hai)是社会层面(mian)的信任。这是一个难题，因为我认为这里最(zui)大的限制(zhi)因素将是基础设施，我们的法律如何称呼它。我们正在谈论所(suo)有的计算基础设施，法律基础设施如何发(fa)展以应对这个问题？整个世界都是由人(ren)类拥有财产、拥有权利(li)和承(cheng)担责任等构建(jian)的。这是一个基本的事情，首先要说，这对人(ren)类目前用作工具的任何东西意味着什么？如果(guo)人(ren)类要将更多的权力(li)委托给这些事情，那(na)么这种结构会如何演变？直到那(na)个问题真正得到解决(jue)，我认为仅仅谈论技(ji)术能力(li)是不够的。

Dwarkesh Patel 52:51

就像我们将无法部(bu)署这些智能，直到我们最(zui)终弄清楚(chu)如何部(bu)署它们。

纳(na)德(de)拉 52:56

是的，今天没有像今天这样(yang)的方式，除非有人(ren)将其作为人(ren)类进行赔偿，否则你无法部(bu)署这些智能。我认为这也是为什么我认为即使是最(zui)强大的AI本质上也是在使用某种授权的原因之一，来自某个人(ren)类。是的，你可以谈论对齐问题，但这正是为什么我认为你必须让这些对齐真正起作用并以某种方式可验(yan)证(zheng)。但我只是认为你不能部(bu)署已经过时的智能。例(li)如，这个AI起飞问题可能是一个真正的问题，但在它成为真正的问题之前，真正的问题将在法庭上。因为法院不会允许某些人(ren)说：“嘿，我做到了。”

Dwarkesh Patel 53:44

是的，世界上有很(hen)多社会，我想知(zhi)道是否有任何一个社会可能没有一个更容(rong)易接受的法律体系(xi)。如果(guo)在那(na)里你不能起飞，那(na)么你可能会担心它不必在美国发(fa)生，对吧？即使你合法。

纳(na)德(de)拉 53:57

是的，但即使在任何一件事情上，我认为我们不能认为没有社会会关心它。可能会有流氓行为者。我不是说不会有流氓行为者。我的意思是，有网络犯罪分子和流氓国家，他们会在那(na)里。但认为整个人(ren)类社会不关心它也不是真的。所(suo)以我认为我们都会关心。我们今天知(zhi)道如何处理流氓行为者和流氓国家。世界不会坐以待毙。这就是为什么我很(hen)高兴我们有一个世界秩序，在这个秩序中，即使是这样(yang)的，任何一个流氓国家的流氓行为者都有后(hou)果(guo)。

Dwarkesh Patel 54:42

如果(guo)你有这张图，你可以有10%的经济增长，我认为这取(qu)决(jue)于像AGI这样(yang)的东西是否有效，对吗？因为数万亿美元的价值(zhi)听(ting)起来更像是人(ren)类的工资是60万亿美元。经济会得到这个。规模就像你必须以非常重要的方式自动化劳动力(li)或补充劳动力(li)，如果(guo)可能的话。一旦你弄清楚(chu)了它的法律后(hou)果(guo)，即使在你的任期(qi)内，我们也很(hen)有可能弄清楚(chu)它。你在想超人(ren)的部(bu)署。

确保 AGI 安全

Dwarkesh Patel 56:29

关于部(bu)署和对齐的问题，两年前你们发(fa)布了悉尼必应。坦白说，考(kao)虑到当时的技(ji)术能力(li)，我认为这有点像一个迷人(ren)、可爱但有趣的错位(wei)例(li)子。当时，一些聊天机(ji)器人(ren)可能会在30秒内给出一些有趣但不恰当的回应。但如果(guo)考(kao)虑到未来，这些代理可能会持续运行数小时、数周(zhou)甚至数月，就像一群自主的AGI（人(ren)工通用智能），它们可能会以类似的方式出现错位(wei)，搞砸事情，甚至相互协调。那(na)么，你们接下来的计划是什么？比如，当你们获得一个强大的模型时，你们会如何处理？

纳(na)德(de)拉 57:25

是的，你说得对。这也是为什么我们认为，即使在分配(pei)计算资源(yuan)时，我们也需要为对齐挑战分配(pei)计算资源(yuan)。更重要的是，我们需要一个能够监控(kong)这些系(xi)统运行时环境的机(ji)制(zhi)，确保它们的可观察性。

顺(shun)便说一句，就像我们在经典计算领域(yu)处理很(hen)多问题一样(yang)，例(li)如网络安全。我们不会仅仅编写(xie)软件然后(hou)就放手不管。我们会持续监控(kong)软件，防范网络攻击，进行故障(zhang)注入等。因此，我认为我们必须围绕这些部(bu)署构建(jian)足够的软件工程能力(li)。在模型本身内部(bu)，对齐是什么？这些既是真正的科学问题，也是真正的工程问题。我们必须解决(jue)这些问题。顺(shun)便说一句，这也意味着我们要承(cheng)担自己的责任。

纳(na)德(de)拉 58:27

这也是为什么我对部(bu)署这些东西更感兴趣，因为你可以实际管理这些东西的范围和规模。你不能在世界上释放一些会造成伤害(hai)的东西，因为社会对此的许可是不存在的。

Dwarkesh Patel 58:45

是的，当你真正得到那(na)些可以为你完成数周(zhou)任务的代理时，该怎么办？你希望什么样(yang)的最(zui)低保障(zhang)，才能让来自我的随机(ji)财富？

纳(na)德(de)拉 58:58

当我使用像深度研究这样(yang)的东西时，我认为我们想要的最(zui)低保障(zhang)是在我们特别拥有AI的物理化身之前。我认为这是其中一个阈值(zhi)，当你跨越可能是一个地方时，另一个是，例(li)如，运行环境的权限。你可能需要保证(zheng)它是沙(sha)盒化的，它不会进出沙(sha)盒。

Dwarkesh Patel 59:32

我是说，我们已经有了网络搜索，你知(zhi)道，我们现在已经有了沙(sha)盒，对吧？

纳(na)德(de)拉 59:37

但即使是网络，它对网络搜索的作用以及它所(suo)写(xie)的内容(rong)。所(suo)以，例(li)如，就像你的观点一样(yang)，如果(guo)它只是要编写(xie)代码启动以进行一些计算，那(na)么该代码部(bu)署在哪里，并且该代码是短暂的，仅用于创建(jian)该输(shu)出，而不是仅仅将该代码弹出到世界中。这些都是你在行动空(kong)间中实际可以做的事情。

Dwarkesh Patel 1:00:05

除了安全问题，当你考(kao)虑你自己的产品(pin)套件时，你会想，如果(guo)你在某个时候(hou)确实有如此强大的AI，这不仅仅是像你提到的关于你如何为这个播客做准备的例(li)子中的副驾驶。那(na)么，更类似于你实际委派(pai)工作或任务给同事的方式，考(kao)虑到你当前的套件，添加它会是什么样(yang)子？我的意思是，你知(zhi)道，有一个问题是LLM（大型语言模型）是否会成为其他事物的共性。我想知(zhi)道这些是否像数据库或画布或Excel工作表或其他什么，如果(guo)LLM是访问所(suo)有这些东西的主要入口点，LLM是否可以修改Office？

纳(na)德(de)拉 1:00:46

这是一个有趣的问题。我认为我对第一阶段的看法是，LLM能否帮助我更有效地使用所(suo)有这些工具或画布来完成我的知(zhi)识工作？我见过的最(zui)好的演示之一是医生为肿瘤委员会工作流程做准备。她使用副驾驶的第一件事之一是为会议(yi)创建(jian)议(yi)程，因为LLM帮助推理某些Sharepoint网站上的所(suo)有病例(li)，并说：“嘿，这些病例(li)显然……你知(zhi)道，肿瘤委员会会议(yi)是一个高风险的会议(yi)，你想关注病例(li)的差异，以便你可以分配(pei)正确的类型。”因此，即使是创建(jian)一个议(yi)程的推理任务，甚至知(zhi)道如何拆分超级类型，我都使用LLM来做到这一点。

纳(na)德(de)拉 1:01:47

然后(hou)我进入会议(yi)。我和所(suo)有同事都在团队通话中。你猜怎么着？我专注于实际案(an)例(li)而不是做笔记(ji)。因为你现在有这个AI副驾驶在做所(suo)有这些的完整转录，基本上一个智能不仅仅是一个转录，而是一个把(ba)它看作是会议(yi)中我可以回忆起的所(suo)有类型的数据库条目。

纳(na)德(de)拉 1:02:11

然后(hou)她从(cong)会议(yi)中出来，讨论了一下这个案(an)子，没有被笔记(ji)分心。她是一名教学医生，她想去为课程做准备。于是，她开始了副驾驶，说：“嘿，参加我的肿瘤委员会会议(yi)，然后(hou)用它制(zhi)作一个PowerPoint幻(huan)灯片，这样(yang)我就可以和我的学生谈论它。”所(suo)以我的UI和脚手架现在被LLMs填充。工作流程本身正在被重塑，知(zhi)识工作正在完成。

纳(na)德(de)拉 1:02:50

这是一件有趣的事情。如果(guo)有人(ren)在80年代末来找我，说：“你的桌(zhuo)子上会有一百万份文件。”我们会说：“这到底(di)是什么？”我的意思是，我真的有点想，哦，我的桌(zhuo)子上会有一百万份实物副本。除了我们确实有一百万个电子表格和一百万份文件，我知(zhi)道你有，它们都在那(na)里。所(suo)以我认为即使是代理也会发(fa)生这样(yang)的事情。所(suo)以会有一个UI层。

纳(na)德(de)拉 1:03:21

对我来说，Office不仅仅是今天的Office。这是知(zhi)识工作的UI层。它会随着工作流程的发(fa)展而发(fa)展。这就是我们想要建(jian)造的。我确实认为今天存在的这些SaaS应用程序——这些粗(cu)糙的应用程序将从(cong)根本上改变，因为业务逻辑将更多地进入这个代理层。事实上，在我的副驾驶体验(yan)中，今天另一件很(hen)酷(ku)的事情是，当我说：“嘿，我正在准备与客户会面(mian)时，给我所(suo)有我应该知(zhi)道的笔记(ji)。”它从(cong)我的CRM数据库中提取(qu)，它从(cong)我的微软图形中提取(qu)，创建(jian)了一个复合的，本质上是工件。这意味着，然后(hou)它甚至应用了逻辑。对我来说，这将在很(hen)大程度上改变我们今天所(suo)知(zhi)道的SaaS应用程序。

Dwarkesh Patel 1:04:10

所(suo)以SaaS作为一个行业，每(mei)年可能价值(zhi)数千亿到数万亿美元，这取(qu)决(jue)于你如何计算。如果(guo)这真的会被AI颠覆，那(na)么这将是微软下一个十年的重要一步，微软的市值(zhi)可能会再次上升(sheng)。因为，你知(zhi)道，如果(guo)你真的在谈论数万亿美元……

纳(na)德(de)拉 1:04:30

我认为这也会创造很(hen)多价值(zhi)。在SaaS领域(yu)肯定如此。你记(ji)得其中一个大问题是，世界上有多少积压，对吧？因此，其中一种方法是这些代码生成的东西，再加上我可以使用代理询问我所(suo)有的SaaS应用程序并获得更多的效用，这将是应用程序最(zui)大的爆炸。他们将被称为代理人(ren)。这样(yang)你就可以，在每(mei)个行业或每(mei)个类别的每(mei)个垂直领域(yu)，我们突然有能力(li)得到服务。所(suo)以会有很(hen)多价值(zhi)。我认为你不能一动不动，就像，你不能说老话：“哦，我从(cong)流程中勾勒出一些狭窄的业务，我在浏览器中有一个UI，这是我的事情。”那(na)不会是这种情况。

纳(na)德(de)拉 1:05:25

你必须向(xiang)上堆叠并说：“我必须参与的任务是什么？”因此，你将能够使用你的SaaS应用程序并使其成为参与多代理世界的出色代理。只要你能做到这一点，我认为你甚至可以增加价值(zhi)。

Dwarkesh Patel 01:05:43

我可以问你一些关于你在微软的时间的问题吗？做公司人(ren)被低估了吗？你的大部(bu)分职业生涯都在微软度过。可以说，这可能是你能够增加如此多价值(zhi)的原因之一，因为你看到了公司的文化、历史和技(ji)术，并通过晋升(sheng)获得了所(suo)有这些背景。更多的公司应该由具备这种背景的人(ren)来经营吗？

纳(na)德(de)拉 01:06:04

好问题。我没有从(cong)那(na)个角度想过，但确实，我在微软已经工作了34年，基本上每(mei)年我对在微软的工作都更加兴奋，而不是想着“我是公司的人(ren)”。这并不是说，我加入微软是为了把(ba)它当作实现经济回报的平(ping)台，而是有一种使命感和目标感，通过微软这个平(ping)台去实现。这就是一种契约。我认为公司必须创造一种文化，让人(ren)们像我这样(yang)的“公司人(ren)”能够融入其中。微软在这方面(mian)做得很(hen)好，至少在我的案(an)例(li)中是这样(yang)，我希望这种情况能继续保持。

Dwarkesh Patel 01:07:06

你觉得你正在谈论的第六位(wei)CEO会如何利(li)用你现在开始的研究？你在做什么来为未来的继任者保留空(kong)间，以便他们能够成为未来的一部(bu)分？

纳(na)德(de)拉 01:07:16

是的，今年是微软成立50周(zhou)年，这让我思考(kao)了很(hen)多。我认为长寿本身并不是目标，关键在于相关性。所(suo)以，我和我们所(suo)有20万员工每(mei)天要做的事情是，我们是否在做对我们看到的世界发(fa)展有用和相关的事情，不仅仅是今天，而是明天。我们必须意识到，我们生活在一个没有特许经营价值(zhi)的行业。所(suo)以，我们必须带着这样(yang)的态度去做事：我们正在做我们认为相关的事情。这也是为什么我们必须关注未来，同时也要有很(hen)高的失败容(rong)忍度。

Dwarkesh Patel 01:08:36

你刚刚提到，距离(li)微软成立50周(zhou)年还(hai)有两个月。如果(guo)你按市值(zhi)或前五名来看前十家公司，基本上除了微软之外的其他公司都比微软年轻。这是一个非常有趣的观察，关于为什么最(zui)成功的公司通常都很(hen)年轻。你知(zhi)道，财富500强公司的平(ping)均(jun)寿命为10到15年。微软做了什么来保持这么多年的相关性？你如何继续“退款”？

纳(na)德(de)拉 01:09:09

我喜欢“退款”这个词。我认为这就是心态。人(ren)们谈论创始人(ren)模式，但对我来说，更像是“退款模式”。能够以新的方式再次看待事物，这是我的关键。所(suo)以，对于你的问题，我们能否在文化上创造一个“退款”成为习惯的环境？每(mei)天我们进来说，是的，我们觉得我们在这个地方有利(li)益，能够改变我们所(suo)做的核心假设，以及我们如何与周(zhou)围的世界联(lian)系(xi)，以及我们提供什么价值(zhi)。很(hen)多时候(hou)，公司会感到受到商业模式或其他因素的过度限制(zhi)，你只需要放松自己。

Dwarkesh Patel 01:10:08

如果(guo)你离(li)开微软，你会创办哪家公司？

纳(na)德(de)拉 01:10:12

如果(guo)我离(li)开微软，我会创办一家专注于服务不足领域(yu)的公司。我从(cong)不离(li)开微软，但如果(guo)你让我思考(kao)一下，我会选择(ze)一个领域(yu)，比如医疗保健、教育或公共服务。这些领域(yu)是社会中服务不足的地方，如果(guo)所(suo)有这些技(ji)术能够转化为更好的医疗保健、更好的教育和更好的公共服务，我会过得更好。这将是一个值(zhi)得投入的领域(yu)。

纳(na)德(de)拉相信AGI吗？

Dwarkesh Patel 01:11:31

我不确定听(ting)到你对不同问题的回答后(hou)，你是否认为AGI（人(ren)工通用智能）是一种意义上的东西，是否会有一种东西可以自动化所(suo)有的认知(zhi)劳动，至少从(cong)所(suo)有人(ren)类可以在电脑上做的任何事情开始？

纳(na)德(de)拉 01:11:46

我认为人(ren)们谈论认知(zhi)劳动的定义存在问题，因为认知(zhi)劳动不是静态的。今天的认知(zhi)劳动可能是自动化的，但新的认知(zhi)劳动是什么？这两件事都必须考(kao)虑。这就是为什么我认为不要把(ba)知(zhi)识工作者和知(zhi)识工作混为一谈。今天的知(zhi)识工作可能可以自动化，但新的认知(zhi)劳动会是什么？

Dwarkesh Patel 01:12:50

但AI会得到什么？

纳(na)德(de)拉 01:12:52

一旦到了第二件事，就会有第三件事。这就是为什么我认为我们已经处理了改变了历史上认知(zhi)劳动的工具。为什么我们担心所(suo)有的认知(zhi)劳动都会消失？我的意思是，人(ren)类只有200年的历史，我们重视一些狭隘的东西，叫做认知(zhi)劳动。但如果(guo)像量子加AI这样(yang)的东西真的帮助我们做了很(hen)多新的材料(liao)科学，这真的会削弱(ruo)人(ren)类可以做的其他事情吗？为什么我们不能生活在一个有强大认知(zhi)机(ji)器的世界里，同时知(zhi)道我们的认知(zhi)能力(li)没有被剥夺？

Dwarkesh Patel 01:13:13

我相信你以前听(ting)过这些例(li)子，但就像马一样(yang)，对某些事情仍(reng)然有好处的想法。有些地形你不能开车，但像马一样(yang)，你会在街上看到马，它们会雇佣数百万匹马，这就像没有发(fa)生一样(yang)。那(na)么，类似的事情会发(fa)生在人(ren)类身上吗？

纳(na)德(de)拉 01:13:28

在一个非常狭窄的维度中，人(ren)类只有200年的历史，我们重视一些狭隘的东西，叫做认知(zhi)劳动。但如果(guo)像量子加AI这样(yang)的东西真的帮助我们做了很(hen)多新的材料(liao)科学，这真的会削弱(ruo)人(ren)类可以做的其他事情吗？为什么我们不能生活在一个有强大认知(zhi)机(ji)器的世界里，同时知(zhi)道我们的认知(zhi)能力(li)没有被剥夺？

Dwarkesh Patel 01:14:14

我不会问你这个问题，而是在不同的情况下，所(suo)以也许你可以毫无尴尬地回答这个问题。假设在微软董(dong)事会上，你能看到在董(dong)事会上添加一个AI吗？它是否有类似的判断、背景和整体理解来成为一个有用的建(jian)议(yi)者？

纳(na)德(de)拉 01:14:32

这其实是一个很(hen)好的例(li)子。我们添加的其中一个东西是团队中的促进代理。那(na)里的目标，还(hai)处于早(zao)期(qi)阶段，是它能够促进一个具有长期(qi)记(ji)忆的代理人(ren)，不仅仅是在会议(yi)的背景下，而是在我正在工作的项目和团队的背景下，成为一个伟大的促进者。我甚至希望在董(dong)事会会议(yi)上，很(hen)容(rong)易分心。毕竟，董(dong)事会成员每(mei)季度来一次，他们试图消化像微软这样(yang)复杂公司正在发(fa)生的事情。我认为一个真正帮助人(ren)类保持话题，专注于重要问题的促进代理会很(hen)棒。这有点像字面(mian)意义上的拥有一个具有无限记(ji)忆的东西，甚至可以帮助我们应对人(ren)类的有限理性。

Dwarkesh Patel 01:15:46

谈到材料(liao)和化学方面(mian)，我记(ji)得你最(zui)近说过，你希望在未来25年内，这些领域(yu)的进步在未来250年内发(fa)生。现在当我想到未来250年可能发(fa)生的事情时，我在想太空(kong)旅行、太空(kong)电梯、永生和治愈所(suo)有疾病。你觉得呢？

纳(na)德(de)拉 01:16:08

我希望我提出这个问题的原因之一是我喜欢工业革命。如果(guo)你把(ba)整个改变从(cong)基于碳的系(xi)统变成了不同的系(xi)统，那(na)么这意味着你必须从(cong)根本上重新发(fa)明化学或50年来发(fa)生的所(suo)有事情。这就是我希望我们拥有量子计算机(ji)的地方。这台量子计算机(ji)帮助我们获得新材料(liao)，然后(hou)我们可以制(zhi)造这些新材料(liao)，帮助我们应对地球上的所(suo)有挑战。然后(hou)我完全支持星际旅行。

Dwarkesh Patel 01:16:44

太惊人(ren)了。萨提亚，非常感谢你的时间。

纳(na)德(de)拉 01:16:50

谢谢，太棒了。