英伟达创始人兼CEO黄仁勋深度访谈:超级人工智能的未来、英伟达接下来的发展方向【大佬访谈vol.3】(中英校译)

Konten Video AsliPerluas Video
  • 总有一刻,您必须相信某些事情。
  • 我们重新发明了计算方式,未来的愿景是什么?
  • Jensen Wong的决策正在塑造您的未来。
  • 计算技术的进步促进了人工智能、自动驾驶等领域的发展。
  • 关键在于如何利用这些技术,构建更美好的未来。

总有一刻,您必须相信某些事情。我们已经重新发明了计算方式,正以我们所熟知的方式迎接未来。你对即将到来的未来有什么愿景?我们自问,如果它能做到这一点,它能走多远?我们如何从现有的机器人,走向您清晰看到的未来世界?所有移动物体终将变成机器人,而且很快就会发生。

在我们真正实现之前,我们投资了数十亿美元,这很好。您做了一些研究,但真正的突破在于,Jensen Wong的决定正在塑造您的未来。他是英伟达的CEO,这家公司在过去几年中迅速崛起,成为世界上最有价值的公司之一。因为他们引领了计算机工作的根本转变,释放了当前技术爆炸的可能性。

英伟达再次做到了。我们发现自己成为了世界上最重要的科技公司之一,且可能是有史以来最大的数量。您在AI、机器人、游戏、自动驾驶汽车和突破性医疗研究中听到的所有最前沿技术,以及新的芯片和软件设计。

在我准备这次采访的几十次背景采访中,给我留下最深刻印象的是Jensen Wong在过去30年里对我们所有人的生活产生了多大的影响,和人们说这只是更大事情的开始。我们都需要知道他正在建造什么,以及为什么。更重要的是,他正在尝试建造的下一个项目。

欢迎来到重大对话。非常感谢,我很高兴能在这之前告诉你这次采访将与其他采访有所不同。我看到了一些东西,我不会问你任何关于公司的财务问题。我不会问你关于你的管理风格的问题,或者你为什么不喜欢一对一会议。我不会问你关于法规或政治的问题,我认为这些事情都很重要,但我认为我们的观众可以在其他地方得到很好的报道。

好的,我们在巨大的、真实的地方。我们制作乐观的解释视频,我认为你可能是最好的。我们希望制作一个联合解释视频,关于我们如何实际上使用技术来使未来更好。我们做这个,因为我们相信,当人们看到这些更好的未来时,他们会帮助构建它们。

所以您将要谈论的人是优秀的,他们是乐观主义者,想要构建那些更好的未来。但由于我们覆盖了这么多不同的主题,超音速飞机、量子计算机和粒子对撞机意味着每集都有数百万人在没有任何先前知识的情况下进入。你可能在与他们领域的专家交谈,但不知道中央处理器和图形处理器的区别,或者一个12岁的孩子可能会成长为你,但我刚刚开始学习。

从我的部分来说,我已经为这次采访准备了几个月,包括与我团队的许多人进行背景对话,但我不是工程师,所以我的目标是帮助那个观众看到你所看到的未来。我将询问三个领域:

第一个是我们如何来到这里的,是什么关键见解导致了我们现在所处的这个计算领域的重大根本转变。

第二个是现在正在发生的事情。这些见解是如何导致我们现在生活的世界的,这似乎是所有事情都在同时发生。

第三个是你对未来的愿景。为了谈论我们在人工智能中的这个大时刻,我认为我们需要回到90年代的视频游戏。当时,我知道游戏开发者想要创建更真实的图形,但硬件无法跟上所有必要的数学。

Nvidia提出了一个解决方案,这不仅改变了游戏,而且改变了计算本身。你能带我们回到过去并解释发生了什么,以及是什么见解让你和Nvidia团队创建了第一个现代GPU吗?

所以在90年代初,当我们第一次开始公司时,我们创造了第一个现代GPU,它将改变游戏,并将改变计算本身。我们发现在一个软件程序内部,只有几行代码,也许百分之十的代码执行了百分之九十九的处理,而这百分之九十九的处理可以并行进行。

然而,剩下的百分之九十的代码必须顺序执行。结果是,合适的计算机,完美的计算机,是能够进行顺序处理和并行处理的计算机。不仅仅是其中之一。这是大发现。我们开始建立一个公司来解决电脑问题,这些问题是普通电脑无法解决的。这就是NVIDIA的开始。

我最喜欢的视觉是解释为什么CPU与GPU真的如此重要。这是15年前的视频,发布在NVIDIA的YouTube频道上。在**《流言终结者》**节目中,他们用一个小机器人一个一个地发射油漆球,来展示一次解决一个问题,或者在CPU上进行顺序处理。然后,他们推出了一个大型机器人,一次性发射所有油漆球,同时处理更小的问题,或者GPU上的并行处理。

NVIDIA解锁了所有这些新的力量,用于视频游戏。为什么游戏第一?视频游戏需要并行处理来处理3D图形。我们选择视频游戏是因为首先我们热爱这个应用。这是一个虚拟世界的模拟,谁不想去虚拟世界。我们还有一个好观察,视频游戏有可能成为娱乐市场最大的市场,事实证明这是真的。

拥有一个大市场很重要,因为技术很复杂。如果我们有一个大市场,我们的研发预算可以很大,我们可以创造新技术。技术和市场之间的飞轮,更好的技术,真的是那个飞轮,让英伟达成为世界上最重要的科技公司之一。

这一切都是因为电子游戏。我听说你说GPU是一台时间机器。是的,你能告诉我更多你的意思吗?GPU就像一个时间机器,因为它能让你看到未来,更早。这是我听过的最令人惊叹的事情之一,是一位量子化学家对我说的。

他说,詹森,因为不公正的工作,我可以在我的有生之年完成我的事业,那就是时间旅行。他能在他有生之年完成超出他寿命的事情,这是因为我们的应用运行得如此之快,你可以看到未来。当你做天气预报时,例如,你可以看到未来。当你做模拟时一个虚拟的城市与虚拟的交通,我们正在模拟我们的自动驾驶汽车通过那个虚拟城市。我们在做时间旅行。

所以并行处理在游戏领域开始兴起,这使我们能够在计算机中创建以前无法实现的世界。游戏可以说是并行处理的第一个惊人的案例,释放更多的力量。正如你所说,人们开始在许多不同的行业中使用这种力量。

量子化学研究者的例子。我听你讲述过那个故事,他正在进行分子模拟的方式,这种方式在NVIDIA GPU上并行运行时速度更快,即使这样也比在他之前使用的超级计算机上运行它们要快,使用CPU。是的,这是真的。

所以,哦,我的天哪,它也正在彻底改变其他行业,它正在开始改变我们对计算机可能性的认知。我的理解是,在2000年代初,你们看到这种情况,你意识到实际上这样做有点困难,因为那个研究人员必须做的,他必须让GPU误以为他的问题与图形有关。完全正确,不,那很好。

所以你创造了,你做了一些研究,所以你创造了一种方法来使其更容易。没错,具体来说它是一个叫做cuda的平台,它让程序员可以使用他们已知的编程语言(如C)告诉GPU该做什么。这对很多人来说意义重大,因为它让更多的人更容易地接触到这些计算能力。

你能解释一下是什么愿景促使你创建cuda的吗?部分是研究者的发现,部分是内部的灵感,嗯,部分解决一个问题。你知道,许多有趣的想法从那个混合物中产生。有些是渴望和灵感,有些只是绝望。

你知道,在夸德拉的情况中,方式非常相似,并且很可能第一个外部想法,利用我们的GPU进行并行处理,起源于有趣的医学影像工作。麻省总医院的几位研究人员正在使用它进行重建,他们正在使用我们的图形处理器进行这项工作。这激发了我们。

同时,我们公司试图解决的问题与以下事实有关,当你试图为视频游戏创建这些虚拟世界时,你想要它美丽,但水流也应该像水一样,爆炸也应该像爆炸一样。你需要粒子物理学,你需要流体力学。如果你的管道只能进行计算机图形,这将更加困难。

所以我们有自然的理由,想在我们服务的市场中进行这项工作。研究人员也在使用我们的GPU进行通用目的加速,进行实验。因此,在那锅汤中,有多个因素正在汇聚。

当我们决定要做一些正经事的时候,我们创建了夸德拉。之所以确信CUDA将取得成功,根本原因在于,我们整个公司都投入了,因为我们的GPU将成为世界上最高的并行处理器,因为视频游戏市场是如此之大,因此,这种架构有很好的机会触及很多人。

在我看来,创建CUDA是一件非常乐观的事情。如果为真的巨大事情,你说,如果我们为更多人创造使用更多计算能力的方式,他们可能会创造惊人的东西。然后当然,它成真了,在2012年,一个由三名研究人员组成的小组提交了作品,目标是创建能够识别图像并给它们贴上类别的计算机系统,他们的作品,彻底击败了竞争对手。

一个群体提交一个作品,目标是创建一个能够识别和标记图像类别的系统,他们的作品,彻底击败了竞争对手,它变得相当错误答案更少,这太不可思议了。这让每个人都感到惊讶,它被称为alex net,它是一种叫做神经网络的人工智能。

我的理解是它之所以如此出色,是因为他们用了大量的数据来训练那个系统,他们用nvidia gpus来做。突然间,gpu不再是使计算机更快、更高效的方式,它们正成为新计算方式的引擎。我们正在从一步一步地指示计算机,转向通过展示大量示例来训练计算机学习。

2012年的这一刻真的启动了我们现在看到的人工智能的真正革命性的变化。你能描述那一刻从你的角度来看是什么样子吗?以及你看到了什么,这对我们所有的未来意味着什么。

当你创造一些新的东西,比如cuda,如果你建造了它,它们可能不会来,而悲观主义者的观点总是如此。然而,乐观主义者的观点会说,但如果你不建造它,它们就不能来。这就是我们通常看待世界的方式。

你知道,我们必须直觉地思考为什么这会非常有用。事实上,在2012年,阿里斯·西克和阿利斯·凯夫斯基和杰夫·辛顿在多伦多大学,他们联系了g force gtx 580,因为他们了解到cuda,并且cuda可以作为并行处理器来训练alex net。因此,我们的灵感,g force可能是将这种并行架构带入世界的车辆。

并且研究人员总有一天会发现它,这是一个好策略。这是基于希望的策略,但这也是理性希望的策略。真正吸引我们的是,同时我们在公司内部试图解决计算机视觉问题,并且我们试图将cuda变成一个好的计算机视觉处理器。

并且我们因为内部早期的发展而感到沮丧,关于我们的计算机视觉努力以及将cuda变成能够做到这一点。突然之间,我们看到了alex net,这是一种全新的算法,它在计算机视觉算法之前取得了巨大的进步。当我们看到它时,部分是出于兴趣,但部分是因为我们自己正在挣扎,所以我们非常感兴趣想看到它工作。

所以我们看alex net,我们受到了那个的启发。但是重大的突破,我认为是当我们看到alex net的时候,我们问自己,你知道alex net能走多远。它能解决的问题类型,这对计算机行业意味着什么。这对计算机架构意味着什么?

我们正确地认为,如果机器学习或深度学习架构可以扩展,大多数机器学习问题都可以用深度神经网络表示。我们可以用机器学习解决的问题类型是如此广泛,它有潜力彻底重塑整个计算机行业。这让我们重新设计了整个计算堆栈,这就是dgx的来源。而就在这里这个小小的dgx,嗯。

这一切都来自于我们应该重新设计整个计算堆栈的观察。一层一层一层地,你知道,自ibm system 360引入现代通用计算以来已经过去了65年。我们已经重新发明了计算,如果我们这样思考这是一个完整的故事。

所以并行处理重新定义了现代游戏并彻底改变了整个行业。然后这种计算方式,即并行处理开始在不同的行业中被采用。通过构建cuda然后cuda,以及使用gpu允许神经网络和机器学习取得了重大进展,并开始了我们现在正在看到的一种革命。今天这种重要性只会增加。

突然间计算机视觉被解决,突然间语音识别被解决,突然间自然语言理解被解决。这些与智能相关的令人惊叹的问题,一个接一个地,在过去我们没有解决方案,突然之间我们对所有这些问题的解决方案有着迫切的需求,突然间一个接一个地被解决。你知道,每两年一次,这真是太不可思议了。

所以在2012年,你向前看并相信那就是未来。你现在正在生活的地方,并且你下注让你到达那里,非常大并且风险很高的赌注。然后我作为一个外行人的看法是,这将花费很长时间,你做了这些年,十年。

所以我的问题是,如果alex发生在2012年,这个观众可能对ai和nvidia了解得更多,特别是十年后,为什么花了十年?也因为你会下注,在那段时间的中间,你感觉如何?这是个好问题。

它可能感觉像今天,你知道对我来说,总是有些问题。然后有一些原因让你感到不耐烦,总有一些原因让你对你的处境感到高兴,总有许多理由继续前进。所以我认为,正如我刚才反思的,这听起来像是这个早晨。

但我会说,我们在追求所有事情时,首先你必须有核心的信念。你必须从你最好的原则出发进行推理,最好是从物理学的原则出发进行推理,或者对某个行业的深刻理解,或者对科学的深刻理解。

无论你从哪里进行推理,都要从第一原理出发。在某个时刻,你必须相信某些事情。如果这些原则没有改变,如果假设没有改变,那么你就没有理由改变你的核心信念。

在这过程中,总会有一些成功的证据,表明你正在正确的方向上前进。你知道的,有时候,你可能会很长时间没有看到成功的证据,这时你可能需要稍微调整一下方向。

但是,证据最终会到来,如果你感觉你正在前往正确的方向,我们就继续前进。关于我们为什么能坚持这么久的问题的答案,其实恰恰相反。我们之所以能坚持这么久,是因为我们相信,只要我们朝着正确的方向前进,成功最终会到来。

我们相信,只要我们朝着正确的方向前进,成功最终会到来。没有原因不投入,因为我们是,我们相信。我信英伟达三十年了,我现在还在工作,没有根本的理由改变我的信念。我根本的相信,我们正在做的工作和正在革新的计算,甚至现在比过去更真实。

我信英伟达,所以我们会,我们会坚持下去,你知道直到直到否则,当然,非常艰难的时期。你知道,当你投资某事,而没人相信它,且花费大量金钱,嗯,你知道,也许投资者或其他人更愿意你保留利润,或者你知道的任何其他事情,提高股价,或者任何其他事情。

但是你必须相信你的未来。你必须投资你自己,并且,我们深信这一点。所以我们投资了,数十亿美金在真正发生之前,这是一段漫长的十年旅程,但那是一路上的乐趣。

你将如何总结那些核心信念,关于电脑应该怎样工作以及它们能为我们做什么?我相信你正在为接下来的几十年做准备。第一个核心信念是,我们的第一次讨论是关于加速计算的,并行计算与通用计算。我们将两个处理器加在一起,我们将进行加速计算。

我仍然相信今天,第二个是认识到这些深度学习网络,这些dns已经公开,坚持到2012年。这些深层神经网络有能力从大量不同类型的数据中学习模式和关系,并且它可以学习更多的微妙特征。如果能更大,使它们变得更大更容易,使它们更深更宽,因此,架构的可扩展性是经验上的真理。

模型大小和数据大小越来越大的事实也是真理,可以学习更多的知识,而且可以学习更多的知识。经验上的真实。所以,嗯,如果那是真的,你可以知道,数据的极限是什么?没有,除非有物理极限,架构极限,或者数学极限。

而且从未被发现。所以我们相信可以扩展它。然后问题,唯一的问题是你可以从数据中学到什么,你可以从经验中学到什么。数据基本上是人类经验的数字形式。所以可以学到什么,你可以从图像中学习物体识别。

你可以学习语音,仅仅通过听声音。你可以学习甚至语言和词汇,和语法,仅仅通过研究大量字母和单词。现在我们已经证明了AI或深度学习有能力学习几乎所有数据的模式,并且可以转换到任何数据的模式。这意味着你可以从文本到文本,总结段落

你可以从文本到文本,从语言到语言翻译。你可以从文本到图像,那就是图像生成。你可以从图像到文本,那就是描述,甚至可以从氨基酸序列到蛋白质结构。未来,你可以从蛋白质到单词,这个蛋白质做什么?或者给我一个具有这些特性的蛋白质例子。

你知道,识别药物靶点,所以你可以看到所有这些问题都即将被解决。你可以从单词到视频,为什么你不能从单词到机器人的动作标记?你知道,从计算机的角度来看,有什么不同。

这打开了一个宇宙机会的宇宙问题,我们可以去解决,这让我们非常兴奋。我感觉我们正处于一个真正的巨大变革的边缘。当我想到接下来的十年,与过去的十年不同。我们已经经历了很多变化,但我认为我不能再预测了我将如何使用目前正在开发的技术。

这正是正确的。我认为过去的十年,你感到那样的原因是过去的十年确实关于AI的科学。接下来的十年我们将会有足够的AI迹象,但接下来的十年将是AI的应用科学,基础科学与应用科学。因此,应用研究,AI的应用方面现在成为:

  • 我如何将AI应用于数字生物学
  • 我如何将AI应用于气候技术
  • 我如何将AI应用于农业
  • 渔业
  • 机器人技术
  • 交通运输
  • 优化物流
  • 我如何将AI应用于教学
  • 我如何将AI应用于播客

正确,所以我很想选择一些来帮助人们看看。我们一直在谈论的计算方式的根本变化实际上是如何改变他们对生活的体验,他们实际上将如何使用基于我们所谈论的一切的技术。我现在听到你谈论了很多事情,我对物理AI特别感兴趣。

换句话说,机器人。我的朋友,意思是人形机器人,但还有像自动驾驶汽车和智能建筑这样的机器人,或者全自动仓库,或者全自动割草机。从我所理解的,我们可能会看到一个巨大的飞跃,所有这些机器人的能力,因为我们正在改变我们如何训练它们。

直到最近,你必须在现实世界中训练你的机器人,在那里它可以被损坏或磨损,或者你可以从相当有限的来源获取数据,像穿着动作捕捉服的人类。但这意味着机器人没有得到足够的例子来更快地学习。

但现在我们开始在数字世界中训练机器人,这意味着更多的重复和条件学习得更快。所以我们可能在机器人的大发展时刻,而现在英伟达正在建立工具来实现这一点。你有omniverse,我的理解是这是一个帮助训练机器人系统的3D世界,这样它们就不需要在物理世界中训练。

这正是正确的。你刚刚宣布了宇宙,这是创造三维宇宙更加现实的多种方式。所以你可以得到各种各样的,嗯。如果我们在这个桌子上训练某物,桌子上有许多不同的光照,许多不同的时间,许多不同的,你知道,机器人可以经历的各种体验,以便它能够从Omniverse中获得更多。

作为一个从小就热爱星际迷航数据的孩子,艾萨克·阿西莫夫的书,以及梦想一个充满机器人的未来,我们如何从现在的机器人,到你所看到的机器人的未来世界,是的。让我使用语言模型,也许将GPT作为理解Omniverse和宇宙的参考。

所以,首先,当Chad GPT首次发布时,它非常出色。它具有从您的提示中生成文本的能力,然而,尽管它非常出色,它有产生幻觉的倾向。如果它走得太久,或者它对某个话题进行长篇大论,它会不知道,它仍然会生成一个好的可信的答案,它只是不基于真相,人们称之为幻觉。

因此下一代,不久之后,它具有被上下文条件化的能力。你可以上传你的PDF,现在它基于PDF,PDF成为真相的基础。它实际上可以搜索,搜索成为它的真相的基础,它可以实际推理,以产生您要求的答案。

因此第一部分是生成式AI,第二部分是真相。好的,现在我们进入物理世界,现实世界,世界模型。我们需要一个基础模型,就像我们需要一个CGPD有一个核心的基础模型,那是突破。

为了使机器人能够对物理世界聪明,它必须理解像重力、摩擦、惯性、几何和空间意识。它必须理解一个物体坐在那里,即使我走开,当我回来,它仍然坐在那里。对象永久性,它必须理解因果关系;如果我倾斜它,它会倒下。所以这些种类的物理常识,如果你愿意,必须被捕获或编码到一个世界基础模型中,这样AI具有世界常识。

好的,所以我们必须去,必须有人去创造那个,这就是我们与宇宙所做的。我们创建了一个世界语言模型,就像CGPD是一个语言模型,这是一个世界模型。第二件事我们必须去做的是,我们必须做我们在PDF和上下文中所做的事情,并使用它与真实数据进行接地。我们使用物理模拟来增强宇宙与真实数据,因为Omniverse使用物理模拟。

这是基于原则的求解器,牛顿物理学是正确的。它是我们了解的数学,好的,所理解的物理基本定律已经很长时间了,并且它被编码到Omniverse中,这就是为什么Omniverse是一个模拟器。使用模拟器来条件宇宙,我们现在可以生成无限数量的未来故事,它们基于物理真理,就像在PDF或搜索与Chacht之间,我们可以生成无限数量的有趣事物,回答大量有趣的问题。

Omniverse加上宇宙,你可以为物理世界做那件事。为了向观众说明这一点,如果你有一个工厂中的机器人,如果你想让它学习它可以走的每一条路线,而不是手动检查所有道路,这可能对机器人造成很大的磨损。

我们现在能够在很短的时间内数字化模拟所有道路,并且在机器人可能遇到的许多不同情况下,天黑,被阻挡等等。因此,机器人现在可以更快地学习。在我看来,未来可能看起来与今天大不相同。

如果你把这个场景放十年后,你认为人们如何实际与这种技术互动?所有移动的东西总有一天会变成机器人,而且会很快。你知道,想法,我们推动割草机的想法已经相当愚蠢。你知道,人们可能做这个因为它很有趣。

但是,但没有必要, 而且,每辆车都将是机器人,人类机器人,嗯,使这成为可能的技术就在我们身边。因此,所有移动的东西都将是机器人,他们将在多元宇宙中学习如何成为机器人,并将生成所有这些可能的物理上可能的未来,机器人将从中学习。然后他们会进入物理世界。

你知道的,这是一个未来的确切情况,嗯,你被机器人包围的情况是肯定的。我对拥有自己的R2D2感到兴奋,而且,当然,R2D2不会是它现在的样子。它不会是它现在的样子,它会四处走动。

你知道,R2会是,R2D2是的。它可能会以不同的身体形态出现,但它总是R2。你知道,有时它在我的智能眼镜里,有时它在我的手机上,有时它在我的电脑上,嗯,这是我的车。所以R2总是和我在一起,包括你知道的,当我回家时,你知道我在哪里留下了R2的实体版本。

无论哪种版本,我们都会和R2互动。所以我认为拥有自己的R2的想法,D2伴随我们一生,它会和我们一起成长,现在是肯定的。是的,我认为许多新闻媒体在谈论这种未来时,他们关注可能会出错的事情,这是有道理的。

确实有很多可能会出错的事情,我们应该讨论可能会出错的事情,以便我们可以防止它们出错。是的,那是我们喜欢采取的方法,节目的主题是什么。所以我们可以克服它们。

你认为在担心未来时,你会考虑哪些方面?嗯,有很多事情,每个人都会谈论偏见或毒性,或者幻觉,你知道的,自信地谈论你不知道的事情,结果我们依赖这些信息,嗯,生成。

这是生成虚假信息的一种方式,虚假新闻或虚假图像,当然,当然伪装。它做得这么好,假装成一个人,它可能能做一个非常好的工作,假装成一个特定的人。

所以,我们关心的领域范围是相当清楚的。有很多,有很多人正在研究它。有一些相关的东西,与人工智能安全相关的一些东西需要深入工程研究。它只是想做正确的事情,它只是没有正确执行,结果伤害了某人。

你知道的,例如,一个想要良好驾驶并正确驾驶的自动驾驶汽车,仅仅因为传感器出了点问题,或者它没有检测到某些东西,或者让它过于激进,转向,或者它是什么,它做得不好。它做错了,错了。

因此,必须进行大量的工程工作来确保,确保人工智能安全得到维护,确保产品正常工作。然后最后你知道发生了什么?如果AI系统想要很好地完成任务,但系统失败了,这意味着AI想要停止,停止某事发生。它想要阻止某事发生,但它正要这样做的时候,机器坏了。

这与飞机内部的飞行计算机有三个版本没有区别。系统内部有三重冗余,在自动驾驶中;然后你有两个飞行员,然后你有空管,然后你有其他飞行员在监视这些飞行员。

因此,AI的安全系统必须被设计成一个社区,这样,这些AI在功能不正常时也能正常工作,它们不会把人置于危险之中,并且周围有足够的安全和安全体系,以确保我们保持AI的安全。

因此,讨论的范围是巨大的。而且你知道,我们必须拆解零件,像工程师一样拆解零件并组装它们。我们正处于一个不可思议的时刻之一。我们现在所处的时刻,我们现在不再有许多技术限制。

在一个CPU和顺序处理的世界中,我们已经解锁了,不仅一种新的计算方式,而且一种继续改进的方式,并行处理。它的物理原理与在CPU上取得的改进不同。我很好奇,我们现在面临的科学或技术限制是什么,在你思考的当前世界中?

最终一切都是关于你能完成的工作量。在你拥有的能量限制下,所以那是,一个物理限制,关于物理定律,关于传输信息,传输比特,最终是翻转比特和传输比特。完成这些所需的能量限制了我们能做的事情。我们拥有的能量量限制了我们能做的事情,我们远没有遇到任何阻止我们进步的基本限制。

与此同时,我们寻求构建更高效的计算机。这台小电脑,它的大版本,嗯,两万五千美元。是的,是的,那是真爱宝贝,宝贝数字。是的,这是AI超级计算机,我交付的版本,这只是一个原型,所以它是一个模型,最初的版本叫做DX1,我在2016年交付给了OpenAI

那是二万五千美元,比这个版本强大一万倍,需要更多的能量。嗯,比这个版本高出六倍。我知道这令人难以置信,我们进入了一个全新的世界,而且这仅仅发生在2016年之后的八年里。

我们在计算能效上提高了一万倍。想象一下,如果我们的计算能效提高了一万倍,或者一辆车提高了一万倍,或者电灯泡提高了一万倍,我们现在的灯泡,而不是100瓦,减少了一万倍,产生相同的照明。

是的,所以我们在计算能效,特别是AI计算能效方面取得了惊人的进步。我们一直在努力,这至关重要,因为我们想要创造更智能的系统,我们希望利用更多的计算来变得更聪明,并且为了完成工作,能效是我们的首要任务。

当我为这次采访做准备时,我与许多工程师朋友交谈过,这是他们真的希望我问的问题。你真的在向你的人讲话。你已经展示了CUDA在增加可访问性和抽象方面的价值,并允许更多的人以各种方式使用更多的计算能力。

随着技术的应用越来越具体,我想到AI中的Transformer,例如。对观众来说,Transformer是一种非常流行的,较新的人工智能结构,它现在已经被广泛应用于你所看到的工具。它们之所以受欢迎,是因为Transformer的结构方式,有助于它们关注关键信息并提供更好的结果。

你可以构建专门为单一AI模型设计的芯片,但如果你这样做,那么你就会使它们无法做其他事情。随着这些特定的AI结构或架构变得越来越流行。我的理解是,存在一个争论,即你如何在芯片中烧入这些功能,或者设计非常特定的硬件以适应特定任务,还是保持更通用。

嗯,所以我的问题是,你是如何下这些赌注的?你是如何思考解决方案是一辆可以到处去的车,还是它真的是从A到B优化的火车?嗯,你下的是巨额赌注,我很好奇你是如何思考这个问题的。

你知道,这也回到了,正是你的问题,你的核心信念是什么,并且那个核心信念问题,要么认为Transformer是任何研究者将再次发现的最后一种AI算法,要么认为Transformer是通往几年后几乎无法识别为Transformer的Transformer进化的踏脚石。

我们相信后者,并且原因在于,你必须回到过去并问自己,在计算机算法的世界里,在软件世界,在工程和创新的世界里,有一个想法坚持了那么久吗?有;答案是没有。这就是那种美丽,那就是,事实上,计算机的本质美在于,它能够在今天做十年前没有人甚至想象可能的事情。如果你会,如果你十年前把那台电脑变成微波炉,

那么为什么应用会不断出现?所以我们相信,在创新和发明的丰富性中,我们希望创造一种架构,让发明家、创新者和软件程序员在汤中游泳,产生一些惊人的想法。看看transformers,transformers的基本特征是这个叫做注意力机制的想法,它基本上说,transformer将理解每个单词的意义和与其他单词的相关性。

与每个单词。如果你有10个单词,它必须找出它们之间的关系,但如果你有十万个单词,或者如果你的上下文现在大到可以阅读一个pdf,而且你不能阅读一堆pdf,且上下文窗口现在像一百万个标记,处理所有这些,处理所有事情都是不可能的。

所以解决这个问题的方式有很多种新的想法和闪存注意力,或者分层注意力,或者你知道我所读到的所有波浪注意力,就是在前几天,自transformer以来发明的各种不同类型的注意力机制的数量相当惊人。因此,我认为这将继续下去,我们认为这将继续。我们认为计算机科学还没有结束,我们认为人工智能研究还没有放弃。

无论如何,我们没有放弃,并且拥有一个能够实现研究和创新的灵活性的计算机,计算机,研究和创新的灵活性,以及新想法是至关重要的。我特别好奇的一件事就是你,设计芯片,有公司组装芯片,有公司设计硬件,使在纳米尺度上工作成为可能。

当你设计像这样的工具时,你在考虑设计在当前的物理可能性上下文中,你是如何想的?你在思考什么,以便推动这个极限?我们做的方式是,即使我们有东西做成这样,例如,我们的芯片由tsmc制造,尽管我们委托tsmc制造,我们假设我们需要拥有tsmc那样的深度专业知识。因此我们公司有非常擅长半导体物理的人。

这样我们对今天的半导体物理的极限有所感觉,有所直觉,并且我们与他们紧密合作以发现这些极限,因为我们试图推动这些极限。因此我们将一起发现这些极限。我们在系统工程和冷却系统方面做同样的事情,事实证明,管道对我们来说非常重要,因为涉及液体冷却,也许风扇对我们来说也非常重要,因为涉及空气冷却。

我们尝试以某种方式设计这些风扇,几乎就像你知道的,这样我们可以通过最大的空气流量并产生最少的噪音,即使我们不制造,我们也设计它们,并且我们对如何制造它们有深入的专业知识,并且从那里开始,我们试图推动这些极限。

这次对话的一个主题是,你是一个对未来下大赌注的人,一次又一次,你关于这些赌注是正确的,我们谈论过gpu,我们谈论过cuda,我们谈论过你在人工智能、自动驾驶汽车方面的赌注,并且我们将在机器人方面是正确的。

这是我的问题:你对宇宙下的最大赌注是什么?最新的,当然,我们刚刚在cs上描述了它,我非常自豪,也非常兴奋,是omniworld和cosmos的融合。因此我们有这种新的生成世界系统的多宇宙生成系统,我认为这在未来的机器人和物理系统中将非常重要。

当然,我们在人形机器人方面的工作,开发工具系统、培训系统和人类演示系统,以及你已经提到的所有这些东西。我们才刚刚开始看到这项工作的成果,并且,我认为接下来的五年在人类和机器人世界中将会非常有趣。

当然我们在数字生物学方面的工作,这样我们可以理解分子的语言,理解细胞的语言,就像我们理解物理学的语言和物理世界一样,以及我们理解分子的语言和细胞的语言,并且我们理解物理学的语言和物理世界。

当然我们在数字生物学方面的工作,这样我们可以理解分子的语言,理解细胞的语言,以及我们理解物理学的语言和物理世界。我们喜欢理解人体的语言,理解生物学的语言。如果我们能学会并预测它,突然间,我们的能力能够拥有一个人类的数字孪生就变得可行了。我对这项工作非常兴奋。

我爱我们在气候科学中的工作,能够从天气预报中理解并预测高分辨率的区域气候,能够以公里为单位预测头顶上方的天气模式。我们能够以极高的准确性预测这一点,其影响是相当深远的。我们正在从事的工作数量真的是很酷。

你知道,我们很幸运创造了这个工具,这是一个时间机器。我们需要在所有我们刚刚讨论的领域都需要时间机器,以便我们能够看到未来。如果我们能够看到未来并预测未来,那么我们就有更好的机会创造一个最好的未来版本。这就是科学家们想要预测未来的原因。

这就是科学家们想要预测未来的原因,这就是原因,这就是我们试图预测未来的原因,以及我们试图设计的一切,以便我们能够优化最好的版本。如果有人在看这个,或许他们观看了这个视频,了解英伟达是一个极其重要的公司,但他们不完全理解这如何可能影响他们的生活。

现在他们可能更好地理解了我们最近几十年经历的一个大转变。这是一个非常令人兴奋的,非常奇怪的时刻。我们现在正处于许多不同事物的边缘。如果他们想稍微看看未来,或者建议他们如何准备,或者思考这个时刻,他们个人是如何看待这些工具实际上将如何影响他们的。

有几种方式可以思考我们正在创造的未来。一种思考方式是,假设你的工作继续很重要,但你做这项工作的努力,从一周的时间缩短到几乎即时。你知道,做枯燥的工作的努力基本上降到了零。这意味着什么,这与如果我们突然有了这个国家的高速公路。

这种情况很相似,这发生在上个工业革命。你知道,这将会发生变化。如果我们突然有了这个国家的高速公路,这种情况很相似。你知道,在上个工业革命,突然之间我们有了洲际公路。当你有了洲际公路,会发生什么,嗯,你知道郊区就开始被创建。

突然之间你知道从东到西的商品分配不再是一个问题,嗯,突然之间加油站开始在高速公路上出现。快餐店开始出现,然后你知道旅馆也开始出现,因为,你知道,人们要穿越州,穿越国家只是想要在几个小时或一夜中住下。

因为,你知道,人们想要旅行。突然之间新的经济和新的能力。如果我们可以通过视频会议彼此见面,而不再需要旅行,突然之间,实际上,工作离家更远,并且住在更远的地方是可以接受的。嗯,并且,你知道,你会问自己,这些问题,这些,你知道,这些问题。

你会问自己,你知道如果我有一个软件程序员在我身边,无论我想要什么,他都能帮我实现。如果我有一个想法,软件程序员就能帮我实现。你知道,如果我有一个想法,无论多么粗糙,突然之间,一个产品的原型就在我面前,这将如何改变我的生活,这将如何改变我的机会。

这将如何改变我的生活,这将如何改变我的机会。我认为在未来的十年,智能,并非所有,而是某些方面,将会变得超乎人类,并且,你知道,我可以告诉你那感觉如何。我周围都是超乎人类的人。从我的角度来看,他们非常聪明,因为他们是世界上最好的。

他们做他们正在做的事情比我好得多,他们做他们正在做的事情比我好得多。我周围有成千上万这样的人, 但是,你知道,为什么一天也没有。嗯,使我开始思考,突然之间我不再必要。它实际上让我感到有力量,并给我信心去挑战更多的雄心勃勃的事情。

那么假设,假设现在每个人都被这些超级AI包围,它们非常擅长特定的事情,或者擅长一些事情,那会让你感觉如何呢?它会让你感到有力量。它会让你感到自信。我肯定你可能已经使用了chagpt和AI。

我感觉我今天感觉更有力量。今天我更有信心去学习新的东西,几乎任何特定领域的知识。理解那些障碍已经被降低,我有一个私人导师随时在我身边,所以我认那种感觉应该普遍存在。如果我鼓励每个人去做一件事,那就是去获取一个AI导师。

当然AI导师可以当然可以教你任何东西,你想要的任何东西,嗯帮助你编程,帮助你写作,帮助你分析,帮助你思考,帮助你推理,所有这些事情都会让你感到有力量。我认为那就是我们的未来。我们将成为,我们将成为超人,不是因为我们有超能力。

我们将成为超人,因为我们有超级AI。你能告诉我们这些对象的一些信息吗?这是一个新的NVIDIA GeForce显卡。是的,这是RTX 50系列,它本质上是你电脑里的超级计算机。我们用它来游戏。当然人们今天用它进行设计和创意艺术,它做惊人的AI,真正的突破在这里,这真是一个惊人的,它真是个惊人的基于Geforce的AI

然后启用了Jeff Hinton、Elia,让Alex Kevsky能够训练AlexNet。我们发现了AI并推动了AI的发展。然后我回到G Force帮助计算机图形学。因此,这里有一个惊人的事实,约有八百万像素在一个4K显示中,我们在计算,我们处理其中的五十万像素,其余的像素我们用AI预测,AI猜测。然而图像完美无瑕。

我们告诉AI,那五十万像素的计算结果,并且我们光线追踪了每一个像素,一切都很美丽,完美无瑕。然后我们告诉AI,如果这些是屏幕上的五十万完美像素,那其余的八百万像素是什么?AI回答说它填充了屏幕的其余部分,并且完美无瑕。如果你只需要处理更少的像素,你是否能够投资更多在处理上,因为你需要处理的像素更少。那么质量会更好。

因此AI的延伸完全正确,因为无论计算,无论注意力,无论资源,你可以将资源投入到五十万像素上。这就是为什么AI会让我们每个人都成为超人的完美例子。它其他能做的事情,它将为我们做。这允许我们花时间精力专注于我们真正有价值的事情。

因此,我们将我们自己的资源,你知道,这是耗能的,注意力密集型的,专注于那五十万像素并用AI超级增强其他所有事情。你知道,用于其他一切,因此这张显卡现在主要由AI驱动,并且内部的计算机图形技术也非常出色。正如我之前提到的,2016年,我为AI研究者构建了第一个。

并且我将第一个交付给了OpenAI,Elon在这里接受它,而这一个,嗯,我构建了一个迷你版本,这样做的原因是,因为AI已经从AI研究者转移到了每个工程师,每个学生,每个AI科学家并且AI无处不在。因此我们不再需要这些二十五万美元的版本,我们将制作这些三千美元的版本,学校可以有它们,你知道,学生也可以拥有它们。

你可以将它们放在你的PC或Mac旁边,突然间你就有了自己的AI超级计算机。你可以开发和构建,构建你自己的AI,构建你自己的R2D2。你感觉怎么样?这对这个观众来说很重要,我需要告诉你们的一件事是,我还没有问出最重要的问题,我建议,例如,如果我今天是一名学生,我首先会学习AI。

我如何学习与Chi互动,我如何学习与Gemini Pro互动,我如何学习与And与I互动,这些学习如何与AI互动?学习AI并不是像成为一个擅长提问的人。你非常擅长提问,引导AI非常相似。你不能随意问一堆问题,所以向AI提问要求一些专业知识和艺术性,以及如何引导它。

如果我是,如果我今天是一名学生,无论是为了数学、科学、化学还是生物学,这都不重要,无论我进入哪个科学领域,或者我是哪种职业,我都会问自己,我如何利用AI来做我的工作更好。 如果我想成为一名律师,我如何利用AI成为一名更好的律师?如果我想成为一名更好的医生,我如何利用AI成为一名更好的医生?如果我想成为一名化学家,我如何利用AI成为一名更好的化学家?

如果我想成为一名生物学家,我如何利用AI成为一名更好的生物学家?这个问题应该贯穿每个人的始终,就像我的一代,是第一代必须问我们自己如何使用计算机来做我们的工作更好。我们的上一代没有计算机,我的这一代是第一代必须问自己,如何利用计算机来更好地完成我们的工作。

记得我在Windows出现之前就进入了这个行业,1995年办公室没有计算机,1984年,没有Windows,办公室没有计算机。在那之后,不久之后,计算机开始出现,所以我们不得不问自己,我们如何利用计算机来更好地完成我们的工作。下一代不必问这个问题,但它必须问下一个显而易见的问题,我如何利用AI来更好地完成我的工作。

这就是开始和结束。我认为这将非常有趣,AI显然是人们现在刚刚学习的一个词,但它只是,你知道什么会,它是,它使你的计算机更加易于访问,它更容易提示,聊天GPT来询问它,你喜欢的任何事情,然后自己去研究。

因此我们降低了理解的障碍,我们降低了知识的障碍,我们降低了智力的障碍,并且每个人都应该去尝试它。真正疯狂的事情是,如果我把一个计算机放在某人面前,他们从未使用过计算机,没有机会,他们在一天内学习那个计算机,没有机会,必须有人向你展示。

并且与聊天GPT,如果你不知道如何使用它,你所要做的就是输入,我不知道如何使用,CGPT告诉我,它将回来并给你一些例子。这就是令人惊讶的事情,你知道这个,智能的令人惊讶的事情,是它将帮助你并使你超凡。你知道,在途中我还有一个问题,如果你有时间。

这不是我计划要问你的问题,但在路上,嗯,我对飞机有点害怕,这不是我最合理的品质。这里的航班有点颠簸,非常颠簸。 我在那里坐着,它在移动,我在想他们在我的葬礼上说什么。在她提出好问题之后,那就是墓碑上要写的,我希望如此。是的,在我爱我的丈夫、我的朋友和我的家人之后,我希望他们谈论的是乐观

我希望他们能认识到我正在做的事情。我非常好奇,你已经做了很长时间了,感觉你描述的这个愿景中有那么多东西,你想要人们说什么主题,关于你所尝试做的事情。非常简单,他们产生了非凡的影响。

我认为我们很幸运,因为有一些很久以前就确立的核心信念,坚持这些核心信念。在此基础上构建,我们发现自己今天成为了世界上最重要,最具影响力的科技公司之一,甚至可能是历史上。我们非常认真地对待这份责任。我们努力确保我们创建的能力对大型公司,以及个人研究人员和开发者都可用,无论科学界还是商业界。

无论盈利与否,无论规模大小,无论名气大小,正是因此,我们对我们所做工作的理解,以及它可能对许多人产生的潜在影响,和我们希望能够影响到的这么多人,以及我们希望能够使这种能力尽可能广泛地应用。我认为,当我们几年后回顾时,我希望下一代意识到,首先,他们会认识我们,因为我们创造的所有游戏技术,你知道,游戏技术,我认为我们会回头看,整个数字生物学和生命科学的领域都被改变了。

我们对材料科学的理解被彻底改变了,机器人帮助我们做危险的和无聊的事情,到处都有,如果我们想要开车,我们可以开车,否则你知道,可以小憩或享受你的车,就像你的家庭影院。你知道,从办公室到家,到那时你希望你住的很远,这样你可以在车里待更长时间。

你知道,并且你回头看,你会发现这个公司几乎处于这一切的中心,而且正好是你小时候玩游戏的公司。我希望我希望这就是下一代学到的。非常感谢你的时间,我很享受。谢谢,我很高兴。