黄仁勋：AI算力集群会扩展到100万芯片，没有任何物理定律可阻止 | 量子位
黄仁勋：AI算力集群会扩展到100万芯片，没有任何物理定律可阻止
提出超级摩尔定律
英伟达市值重回第一之际，黄仁勋再次接受采访。
除了谈自己和英伟达，还吹了一波马斯克，再再再次赞赏xAI只花19天建起10万卡H100超级集群。
传闻英伟达正在考虑投资xAI，或许此言不虚。
在这场访谈中他提出，没有任何物理定律可以阻止AI数据中心扩展到一百万芯片。
为此他还提出了超级摩尔定律，从每两年性能翻倍，变成每年翻两到三倍。
并指路了具体实现途径，软硬件协同设计和数据中心级创新。
围观网友表示：很惊人，但更惊人的是我毫不怀疑他们真的能做到。
这是老黄第二次参加访谈节目No Priors，距离上次时隔一年。
在这场36分钟的访谈中，老黄还透露了更多行业内幕和对未来的设想：
- 摩尔定律的两个基本技术支柱已经遇到瓶颈
- ChatGPT正在旧的训练集群上做推理，英伟达基础设施可以在训练和推理中相互转换
- 英伟达不直接把数据中心当产品销售，但必须像对待产品一样对待它
- xAI迅速建起超级集群主要归功于马斯克的意志力和执行力
- 英伟达内部高度依赖AI芯片设计，如果没有AI，造不出Hopper架构
- 半导体行业并不是关于制造芯片，而是关于为社会构建基础结构
- AI智能体不会干掉SaaS，SaaS销售专业智能体会带来繁荣发展
- 两三年后，每篇论文、每项科学和工程突破都会以AI
- 老黄现在每天学习任何东西都会先用AI，即使是最基础的事实也会用AI反复核查
- ……
以下是采访全文编译整理。
英伟达未来十年的赌注
主持人：
英伟达已经走过了30年，展望未来的十年，您认为还有哪些重要的赌注需要下？接下来是否只需扩大规模？在从现有架构中榨取更多计算和内存方面，我们是否遇到了限制？您目前的关注重点是什么？
黄仁勋：
如果退一步思考我们所取得的成就，我们已经从编程走向了机器学习，从编写软件工具到创建一个全新的生态系统。
所有这些最初都运行在为人类编程设计的CPU上，如今则运行在为AI编程设计的GPU上，主要是机器学习。
世界已经改变，我们进行计算的方式、整个技术栈都发生了变化。
我们能够解决的问题的规模也发生了巨大变化，如果你能在一块GPU上并行化你的软件，你就为在整个集群、甚至多个集群或数据中心上并行化奠定了基础。
我认为，我们已经为将计算扩展到无人想象过的水平做好了准备，并在这个水平上开发软件。
接下来的十年里，我们希望每年在整体规模上（而非单个芯片上）将性能提升两到三倍，从而使成本和能耗每年降低两到三倍。
当你每年都翻倍或三倍增长，几年下来，这种复合增长会非常惊人。
我们能超越人们对摩尔定律的理解，即每两年性能翻倍，我们将的（AI协作）方法。
如果我们再给自己两三年时间，世界将会改变，将不会有一篇论文、一项科学或工程突破，其基础不是生成式人工智能。我现在非常确定这一点。
对于很多关于这是否是昙花一现的问题，你只需要回到第一原理，观察实际发生的事情。
计算堆栈，也就是我们进行计算的方式，已经改变。编写软件的方式已经改变，这是非常核心的东西。
软件是人类编码知识的方式，这是我们编码算法的方式。我们现在以非常不同的方式编码它，这将影响一切，其他任何东西都将不同于以往。
所以，我认为，我是在和已经理解这一点的人交谈，我们都看到了同样的事情。
你们所合作的所有初创公司，我所合作的科学家和工程师，没有人会被落下。
我们将带着所有人一起前进。
黄仁勋每天都在用AI
黄仁勋：
我自己每天都在使用AI，我不知道你们怎么样，但AI现在是我的导师。
我学习任何东西都会先去找AI。
为什么要用困难的方式去学习呢？直接去找AI，直接去找ChatGPT，或者有时我会用Perplexity，这取决于我问题的表述方式，我就从那里开始学习。然后，如果你愿意，你可以深入研究。
但天哪，这真是太棒了。几乎所有我知道的东西，我都会再三确认。即使对于一个事实，我认为的基本真理，而且我是专家，我仍然会去找AI，检查、再检查。
这太棒了，现在我做几乎所有的事情都涉及到AI。
One More Thing
最新爆料，根据最近即将出版的张忠谋传记，2013年左右台积电曾询问黄仁勋是否有兴趣接任CEO，但老黄拒绝了。
10多年前，英伟达还不是像今天这样的庞然大物。但刚刚推出Kepler架构GPU系列，新的Tegra系列移动芯片，以及Shield游戏机，并继续进军数据中心。
当时黄仁勋对英伟达未来充满信心，宣布在公司现有总部以西建造一个更大的总部。
台积电不得不选择Plan B，从内部提拔两名工程师高管并培养成商人，建立双领导制，分别担任董事长和CEO。作为对比，黄仁勋一直在英伟达同时担任董事长兼CEO。
现在，黄仁勋对数据中心和人工智能的战略愿景帮助英伟达成为全球市值最高的公司。
(来源:量子位)
