• 广东股票配资平台-配资平台买卖股票

股票基本条件 英伟达电话会:黄仁勋强调“推理”的计算需求爆棚,可能比目前多数百万倍

发布日期:2025-02-28 22:25    点击次数:104

周三美股盘后股票基本条件,英伟达CEO黄仁勋在2025财年第四季度财报电话会议上表示,公司对AI推理带来的潜在需求感到兴奋,这类计算需求预计将远超当前的大语言模型(LLM),可能需要比现有计算能力高出数百万倍。 黄仁勋称,我们所做的事情并不容易,但英伟达在提升供应能力方面表现良好。AI软件将是一切数据中心的一部分,无论是短期、中期还是长期迹象都持续向好。他进一步确认,Blackwell系列芯片的供应链问题已完全解决,供应问题不曾妨碍到下一次训练和后续产品的研发。此外,Blackwell Ult

  • 股票基本条件 英伟达电话会:黄仁勋强调“推理”的计算需求爆棚,可能比目前多数百万倍

    周三美股盘后股票基本条件,英伟达CEO黄仁勋在2025财年第四季度财报电话会议上表示,公司对AI推理带来的潜在需求感到兴奋,这类计算需求预计将远超当前的大语言模型(LLM),可能需要比现有计算能力高出数百万倍。

    黄仁勋称,我们所做的事情并不容易,但英伟达在提升供应能力方面表现良好。AI软件将是一切数据中心的一部分,无论是短期、中期还是长期迹象都持续向好。他进一步确认,Blackwell系列芯片的供应链问题已完全解决,供应问题不曾妨碍到下一次训练和后续产品的研发。此外,Blackwell Ultra计划于2025年下半年发布。

    黄仁勋还指出,任何人都处在新科技转型的起点,所有软件和服务都将和AI相关。

    英伟达CFO Colette Kress指出,感恩节和圣诞节期间的游戏硬件需求依然强劲,但整体营收仍受到供应限制的影响。不过,他预计供应问题将得到缓解,使得增速在当前季度迎来 “喷发”。

    针对盈利能力,CFO指出,一旦Blackwell增产,利润将有所改善,并预计到2025年年底,利润率将在70%-80%区间的中部。然而,他强调,目前的首要任务是向客户交付尽可能多的产品。大客户和企业客户的增速大致相同。

    中国市场方面,黄仁勋表示,四季度营收季环比大体上持平。

    以下为问答全文:

    Q1:随着测试时计算和强化学习展现出巨大潜力,我们明显看到训练与推理之间的界限正在变得越来越模糊。那么,这对未来专门用于推理的计算集群可能意味着什么?您如何看待这一趋势对英伟达及其客户的整体影响?

    CEO:现在存在多种计算扩展规律。第一种是预训练扩展规律,这个趋势仍会持续增长,因为我们正在进入多模态时代,并且现在的推理生成数据也可以用于预训练。

    第二种是后训练扩展规律,它涉及强化学习,包括人类反馈强化学习、AI反馈强化学习,以及可验证奖励强化学习。在后训练阶段,所需的计算量实际上比预训练更大。这也合乎逻辑,因为在使用强化学习时,AI可以生成大量合成数据或合成Token,并利用这些数据进一步训练AI模型,这就是后训练。

    第三种,也就是你提到的部分,测试时计算或推理、长思维推理扩展。

    它们本质上都是相同的概念。在推理过程中,我们有链式思维和搜索,所生成的Token量以及所需的推理计算量已经比最初的大语言模型(LLM)中的单步推理高出100倍,而这仅仅是个开始。

    未来,我们可能会看到计算需求增长至当前的数千倍甚至数百万倍,AI 模型将变得更加智能,具备更强的思考能力,并依赖更复杂的模拟和搜索推理。因此,关键问题是:如何设计适应这种演进的计算架构?

    当前,不同AI模型有不同的架构需求——有些是自回归模型,有些是基于扩散的模型。有时,数据中心需要采用分布式推理,有时则需要紧凑式架构。因此,很难确定 最优的数据中心架构。

    这正是英伟达架构如此受欢迎的原因——我们的平台能够支持所有类型的 AI 模型。我们不仅擅长训练,事实上,目前大部分计算资源都用于推理,而Blackwell进一步提升了推理能力。我们在设计Blackwell时,就考虑到了面向推理的需求,让AI能够处理更加复杂的任务。

    在训练方面,Blackwell的性能已经提升了数倍。但真正令人惊叹的是,在长思维推理、测试时扩展、推理AI方面,性能提升更为显著——推理吞吐量提高了25倍,计算速度提升数十倍。因此,Blackwell在各个方面都将带来卓越表现。

    当企业在构建数据中心时,他们需要根据不同阶段的需求进行调整,比如当前是否侧重预训练,是否专注于后训练,或者是否需要大规模扩展推理计算。英伟达的架构具有高度灵活性,可以轻松适应这些不同的计算模式。

    因此,我们观察到,越来越多的企业正在集中采用统一架构,比以往任何时候都更加明显。这证明了英伟达的架构在各个AI计算环节都具备极高的适用性和领先优势。

    Q2:请谈一谈GB200在CES(国际消费电子展)上的情况。您之前提到过机架级系统的复杂性以及所面临的挑战。此外,正如您在准备好的发言中所提到的,我们已经看到许多产品进入全面供应阶段。请问GB200的量产进展如何?在系统层面,除了芯片层面的问题之外,是否仍然存在瓶颈需要考虑?另外,您是否依然对NGL72平台充满信心?

    A2:实际上,我现在比在CES(国际消费电子展)时更为兴奋,因为我们在CES之后出货量大幅增长。

    目前,我们有约350家工厂在生产每台Blackwell机架(Grace Blackwell机架)所需的150万个组件。是的,这确实极其复杂,但我们已经成功地加速量产Grace Blackwell,并在 上个季度实现了约110亿美元的营收。

    由于市场需求极其旺盛,客户们都急切且迫不及待地想要获得他们的Blackwell系统,因此,我们必须持续扩大产能。

    你可能已经在网络上看到许多关于Grace Blackwell系统上线的庆祝消息。目前,我们自己也部署了大量Grace Blackwell设备,供内部工程团队、设计团队和软件团队使用。此外,CoreWeave已公开宣布他们成功上线该系统,微软也已部署,OpenAI当然也在使用,此外还有许多客户的系统正在陆续投入运行。

    所以,我的答案是:我们所做的一切都极具挑战,但进展顺利,我们和所有合作伙伴都做得非常出色!

    Q3:我想请您确认一下,第一季度是否会成为毛利率的最低点?您如何判断当前强劲的市场需求能够持续到明年? 在您的观察中,哪些关键因素让您对市场前景保持信心?此外,DeepSeek及其最新创新是否对您的这一判断产生了影响?

    CFO:关于毛利率,在Blackwell推广初期,我们的毛利率将处于70%初段。

    目前,我们的首要任务是加快制造进度,确保尽快将产品交付给客户。一旦Blackwell完全量产,我们将能够进一步优化成本,从而提升毛利率。预计今年晚些时候,毛利率可能会提升至70%中段水平。

    正如您刚才听到黄仁勋所提到的,系统架构本身相当复杂,在某些情况下需要高度定制化,并且提供多种网络连接选项,包括液冷和水冷方案。

    因此,我们确实有机会在未来进一步提升毛利率。但目前,我们的首要任务仍然是尽快完成生产,并尽快将Blackwell交付至客户手中。

    CEO:我们掌握了几个重要的信息。首先,我们对 数据中心的资本投资规模 有相当清晰的了解。未来,绝大多数软件都将基于机器学习,因此加速计算、生成式AI以及推理AI将成为数据中心所需的核心架构。

    其次,我们拥有来自顶级合作伙伴的预测和规划,同时,我们也看到许多充满创新精神、令人振奋的初创公司仍在不断涌现。这些公司正致力于AI领域的下一个突破,无论是自主智能体 AI、推理AI还是物理AI,每一家公司都需要大量的计算基础设施来支撑其研发。

    从市场信号来看,我们可以分为短期、中期和长期三个维度:

    短期信号主要包括 采购订单和合作伙伴的预测数据,这些数据能够直接反映市场需求。

    中期信号关注基础设施和资本开支的扩展速度,相较于前几年,我们看到整体规模正在迅速扩大。

    长期信号——从根本上来说,软件开发范式已经发生变化,从过去基于CPU的手工编码,转向基于GPU和加速计算的机器学习与AI驱动软件。这表明AI计算架构将成为未来主流。

    从整体趋势来看,我们目前才刚刚进入消费级AI时代,包括 搜索、生成式 AI、广告、推荐系统 等应用仍处于早期阶段。下一波浪潮将涉及企业级自主智能体AI、机器人AI,以及各国构建的主权AI,用于打造本地化AI生态系统。

    这些领域才刚刚起步,但我们可以清晰地观察到它们的发展势头。由于英伟达处于这些创新浪潮的核心,我们能够看到各个方向上都在发生大量创新,并且这些变革必然会实现。因此,从短期到长期,我们对市场前景充满信心。

    Q4:英伟达下一代Blackwell Ultra计划在今年下半年推出,保持了团队年度产品发布节奏。黄仁勋,您能否帮助我们理解Ultra的市场需求情况? 目前,你们仍 加速推进现有Blackwell产品的量产,那么在这种情况下,客户和供应链如何同时管理这两代产品的并行推进?此外,Blackwell Ultra是否仍然按计划将在今年下半年推出?

    CEO:是的,Blackwell Ultra仍计划在今年下半年推出。

    关于第一代Blackwell,我们确实遇到了一些小插曲,可能导致了 几个月的延迟,但我们已经 完全恢复。团队在解决问题方面做得非常出色,我们的 供应链合作伙伴 也提供了极大的支持,帮助我们 以极快的速度完成恢复。现在,Blackwell已经成功量产,但这不会影响我们下一代产品的推进。

    我们的产品开发遵循年度节奏,Blackwell Ultra将搭载全新网络架构、新型内存以及升级版处理器,所有技术都将在今年下半年全面上线。

    我们一直在与合作伙伴和客户紧密合作,并为他们提供了所有必要的信息,确保大家能够 顺利完成产品过渡。这次的Blackwell到Blackwell Ultra过渡将会更加顺畅,因为它们的 系统架构完全相同。

    相比之下,从Hopper过渡到Blackwell难度更大,因为我们从NVLink 8直接升级到了NVLink 72,导致 机箱设计、系统架构、硬件、电源供应等方面都需要调整,这一转变的挑战相当巨大。但Blackwell Ultra的升级不会有这些问题,它能够无缝衔接到现有系统。

    此外,我们已经 提前向合作伙伴披露并展开了下一代产品的合作,下一步将是Vera Rubin,目前所有合作伙伴都在为这次升级做准备。我们也在全力推进下一阶段的产品迭代,届时会带来巨大性能提升。

    欢迎大家来GTC大会! 届时我会详细介绍Blackwell Ultra、Vera Rubin及其后续产品,这些都是 极具突破性的创新技术,非常值得期待。请大家一定要来GTC了解最新动态!

    Q5:我们最近听到了很多关于定制ASIC的讨论。您能否谈一谈定制ASIC与标准GPU之间的平衡?此外,我们还了解到某些异构超级计算集群计划同时使用GPU和ASIC。请问客户是否真的在构建这种混合架构?还是说股票基本条件,这些计算基础设施仍将保持相对独立?

    风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

相关资讯