英伟达这家云基础设施技术公司第二财季的井喷式收益和预测是由运行人工智能基础设施的市场主导芯片和系统推动的,因为它超出了其收入预测1亿美元。
首席执行官黄仁勋在电话会议上表示:“你看到世界各地的数据中心正在利用这些资本支出,并将其集中在当今计算的两个最重要的趋势上,即加速计算和生成式人工智能。”
该公司上调了今年的指引,发布了令人瞠目结舌的预测,即第三财季收入将约为 160 亿美元,仅比分析师一致预测的 126.1 亿美元高出 34 亿美元左右。 该指导表明较上年同期增长 170%。
这个故事在很大程度上被归咎于英伟达在图形处理单元方面的主导地位,图形处理单元是生成式人工智能的基石。英伟达几乎垄断了人工智能的高性能芯片,包括其A100和H100芯片,至少在今年晚些时候主要竞争对手AMD开始出货其更具竞争力的芯片之前是这样。目前,英伟达有大量的积压订单,甚至跟不上需求
但这里还有更大的事情发生:英伟达在人工智能堆栈中的主导地位——包括软件、内存、存储和网络。其高管尖锐地将这一增长归因于销售整个系统,例如HGX,这些系统基于Nvidia GPU构建,但也集成了强大的网络和软件。
英伟达执行副总裁兼首席财务官Colette Kress在电话会议上表示:“数据中心计算收入同比增长近两倍,这主要是由于云服务提供商和大型消费互联网公司对我们的HGX平台(生成式和大型语言模型的引擎)对云的需求加速。”
全栈使 Nvidia 更具粘性
这不仅仅是关于 GPU。人工智能系统是复杂的超级计算平台,必须联网,通过软件进行优化,并使用数千个组件。为了优化人工智能系统,工程师必须采用“全栈”方法。
英伟达不仅在芯片方面处于领先地位,而且在整个堆栈中都处于领先地位,包括其于 2019 年收购的 Mellanox 的重要网络技术,以及关键的软件优化组件。
只是为了给您带来规模感:单个 HGX A100 系统具有 1.3 TB 的 GPU 内存和 2 TB/秒的内存带宽。存储可处理 492 个 SSD,外部网络容量为 400 Gb/s。
不要指望 Nvidia 会停止扩展人工智能堆栈。 它一直在稳步进行针对人工智能系统的关键收购,以构建 HGX。 2022年,它收购了用于块存储系统的Excelero和用于驱动高性能计算集群的BrightComputing。 今年 2 月,Nvidia 收购了 OmniML,这是一家人工智能软件公司,旨在使机器学习模型能够在任何设备上运行。
虽然更大的世界似乎关注的是英伟达在GPU领域的领先地位,但这实际上是关于全栈的,甚至归结为广泛的软件库,英伟达高管在电话会议上指出了这一点。
“因此,这个名为 Nvidia AI Enterprise 的运行时大约有 4,500 个软件包、软件库,并且彼此之间有大约 10,000 个依赖关系,”黄仁勋在电话会议上解释道。“正如我所提到的,该运行时会针对我们的堆栈的安装基础不断更新和优化。这只是让加速计算发挥作用的一个例子,代码组合的数量和应用程序组合的类型真的非常疯狂。
网络是下一场战斗
很难看到有人像 Nvidia 那样将整个堆栈放在一起。网络方面最近变得更加有趣,随着超大规模企业增加连接 AI 服务器的网络需求,Arista Networks 等重要竞争对手获得了 AI 提升。
Arista Networks 在 2023 年也一直是 AI 投资者的最爱,从 AI 热潮中获得了网络增长。在本月早些时候报告其 2023 财年第二季度收益时,Arista 报告称同比增长 39%,这得益于 Microsoft 和 Meta 等超大规模企业的需求。Arista高管表示,其增长动力之一是升级到更高带宽的系统,以驱动AI工作负载。
“人工智能的机会令人兴奋,”Arista首席执行官Jayshree Ullal说。“随着我们最大的云客户审查他们的经典云和 AI 网络计划,Arista 正在适应这些变化,从而加倍投入我们在 AI 方面的投资。”
可能感觉有点被遗忘了,思科系统公司在一周前的财报电话会议上播放了人工智能产品。思科正在发布升级的以太网交换机,其中包含新的思科Silicon One ASIC系列,旨在与基于Nvidia InfiniBand的AI网络系统竞争。思科与竞争对手Arista是Ultra Ethernet Consortium的一部分。
但到目前为止,思科还没有被投资者视为人工智能的大公司。例如,思科年初至今的涨幅为17%,而英伟达上涨了225%,Arista上涨了51%。Arista 和 Cisco 都没有 GPU 和全栈集成。
英伟达的主导地位何时会受到挑战?
最重要的是,英伟达已经在增长最快的云市场建立了人工智能系统业务。想要建造处理设施的生成式人工智能公司目前没有太多选择——他们要么在公共云中租用空间,这些公共云已经建立了自己的基础设施,在某些情况下还建立了自己的人工智能芯片,或者他们可以购买英伟达的系统和处理器。英伟达一直领先于这一趋势,但现在每个人都在追逐它。
随着Arista和思科在AI网络领域紧随英伟达之后,很明显英伟达将在许多方面面临挑战。但就目前而言,你所看到的英伟达的狂热可能至少会持续到今年剩下的时间。AMD的新AI芯片MI300X至少在另一个季度内不会推出,因此Nvidia将继续兑现。另一个最接近的竞争对手是云计算公司本身——亚马逊和谷歌——它们已经为人工智能设计了自己的芯片,正确地预见了可能的芯片短缺。网络竞争对手有拼图,但他们没有完整的系统和软件优化。
可能被低估的是英伟达在其整个系统中投入的深刻战略思想和规划,从网络互连到软件组件。如果竞争对手想将英伟达从人工智能基础设施的山顶上拉下来,他们还有很多工作要做。
关键词:
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。
投诉邮箱:Email:133 46734 45@qq.com美国语音 AI 初创公司 ElevenLabs 昨日发布了一款合成语音检测工具 AI Speech Classifier,该工具可以准确检测出用户上传的音频
Elon Musk旗下人工智能新创公司X ai宣布,其自动生成式人工智能模型Grok将升级至1 5版本。Grok-1 5将改进其推论能力,使...
谷歌解锁旗下生成式 AI 聊天机器人 Bard 新功能!想要快速看懂 YouTube 视频内容,或是有人在直播上吵架,未来都能藉由 Bard
小米近日在其社区内开始邀请用户测试新发布的小米 AI 创作和AI 搜图两项创新功能,旨在提升用户的图像生成和搜索体验...
Anthropic稍早宣布推出其升级版本人工智能模型Claude 3 5 Sonnet,以及全新名为Claude 3 5 Haiku的人工智能模型,另外更宣布推出可
阿里巴巴智能计算研究院的研究人员推出了一款名为EMO的人工智能系统——Emote Portrait Alive的缩写。顾名思义,人工智能工...
日前在韩国首尔举办的三星AI论坛活动揭晓自有多模态大型语言模型Samsung Gauss之后,三星在稍早举办的SDC Korea 2023期间更进一步说
日前宣布与数十家新闻出版业者洽谈合作,借此获取文章内容授权,借此用于人工智能模型训练之后,OpenAI稍早确认与Reddit达成...
生成式 AI 应用 ChatGPT 引起风潮,专注新世代数字人才的求职平台 Yourator ,近期也推出了AI 履历小助理功能,不用 60 秒就
据报道,电子商务巨头亚马逊正在培训一种新的大型语言模型(LLM),以应对微软支持的OpenAI和谷歌母公司Alphabet提供的人...
近年Meta推出的AI驱动广告工具Advantage+,是利用AI和自动化技术,帮助广告主提高营销及宣传效能。Meta副总裁兼货币化主管John Hegeman表
主打隐私保护的 DuckDuckGo 搜索引擎于今天推出了测试版 DuckAssist,通过 AI 工具来帮助用户快速找到答案。DuckAssist 的设计目
一位前Facebook工程师将与人工智能(AI)co-pilot一起编码的经历描述为类似于与半神合作。在X(前身为Twitter)上最...
Elon Musk稍早于X页面透露,将在近期内推出新版结合大型自然语言模型的聊天机器人Grok 2测试版本,强调在算法、数据训...
OpenAI公司最近承认,ChatGPT模型已经变得懒惰,这可能会对人工智能的未来产生影响。 这一消息是在用户广泛报道该型号...
去年接任Square Enix首席执行官的桐生隆司,在2024年的年度新年致词中说明,会积极地将人工智能及其他先进技术应用在游戏开...
曾投资Twitter的著名初创投资公司a16z,所投资的人工智能(AI)初创企业 Character AI 由Google前AI研究人员组成。 Character AI
在今天的美图公司15周年生日会现场,美图公司创始人、董事长兼首席执行官吴欣鸿发布了发布自研AI视觉大模型MiracleVision...
总部位于南非的全球消费互联网巨头 Naspers 正在寻求加速对人工智能 (AI) 公司的投资。 这是 Prosus 和 Naspers 临时集团首
OpenAI在今3月中旬推出可混合输入、增加图像识别能力的全新GPT-4大型语言模型之后,稍早于其第一届开发者大会上公布名为G...