AG真人百家乐 英伟达是靠钱堆出来了

要是您但愿不错通常碰面AG真人百家乐,迎接标星储藏哦~

起首:内容编译自nextplatform,谢谢。

不错细目地说,在 2025 年,天下上最好的使命是 Nvidia 的首席施行官,而该公司的集结首创东谈主黄仁勋 (Jensen Huang) 率领公司走向了清朗,就像集结首创东谈主托马斯·沃森 (Thomas Watson) 率领公司走向公司 (International Business Machines)、拉里·埃里森 (Larry Ellison) 率领公司走向甲骨文公司 (Oracle) 以及史蒂夫·乔布斯 (Steve Jobs) 率领公司走向苹果电脑公司 (Apple Computer) 雷同。

但 Nvidia 的第二好使命无疑是 Bill Dally 所从事的使命。或者更确切地说,Dally 同期从事这两份使命。Dally 于 2009 年出任 Nvidia 首席科学家,在此之前,他曾担任斯坦福大学计算机科学系主任十几年,并在麻省理工学院和加州理工学院从事芯片、互连和系统研究数十年,得益斐然。Dally 说,他会存眷公司里面发生的一切,并极力让悉数这些本事“尽可能地好”。在圣何塞举行的最新 GPU 本事大会上,Dally 在演讲中补充说,他还有另一份使命,负责治理 Nvidia 研究部门,这意味着他不错“与很多信得过机灵的东谈主一皆处理很多勤苦的才气问题”。

Dally 的演讲老是很道理,最近一次 GTC 上的演讲也不例外。像泛泛雷同,Dally 挑选了一些硬件和软件方面的精技巧术,并深切研究了它们,展示了它们若何为 Nvidia 带来了现时的上风,或者将来在销售 GPU 加快系统方面可能带来的上风。

这让咱们猜测了 Nvidia 的研发开销,这笔开销相等大,但由于 Nvidia 已往一年半的收入和利润激增,这笔开销目下看起来微不及谈。但毫无疑问:Nvidia 插足巨资打造将来,目下它从中受益最多,比地球上任何其他供应商都多。

早在 2008 年 11 月,当 Nvidia 在奥斯汀举行的 2008 年超等计算大会上初次在 HPC 模拟和建模限制进展其 GPU 计算愿景时(这比第一届 GPU 本事大会在费尔蒙旅社举行,约有 1,500 名与会者),IBM 基于 AMD Opteron CPU 和 IBM PowerXCell 数学加快器的“Roadrunner”夹杂超等计算机刚刚在旧年 5 月冲破了高性能 LINPACK 基准测试的千万亿次浮点运算终止。为了向您展示咱们距离东谈主工智能创新和现时践诺有多远,太平洋西北国度实验室举办了一场小组计划,题为“电力公司是否会在购买电力公约期救济超等计算机? ”

但践诺却大相径庭:你会为超等计算机和电力公约支付比你设想的预算更多的钱吗?也许咱们会向 SC25 的东谈主们冷漠这个问题手脚小组计划。而这一践诺完全取决于 Nvidia 数据中心 GPU 的性能、功耗和资本。

而且,咱们觉得,将来出现互异的原因部分在于,尽管带有矢量和无意张量引擎的 CPU 也施行多半并欺诈命,但 Nvidia GPU 已成为 HPC、分析和 AI 使命负载的主力并行计算引擎。

要是 Nvidia 莫得看到Brook Stream 处理编程言语的价值,那么这一切都不会发生。该言语将数学计算转念到 ATI(现为 AMD)和 Nvidia GPU 上的浮点着色器单位,并聘用其首创东谈主 Ian Buck 创建目下所谓的 CUDA。数据中心对 GPU 计算的需求迫使 GPU 盘算束缚发展,其编程堆栈也随之发展。今日下创造了饱胀的数据,使自古以来(20 世纪 80 年代初)的 AI 算法冒失信得过证明作用时,GPU 即是完成这项使命的最好计算引擎,并成为 AI 创新的平台——具体来说,咱们指的是经典机器学习。GenAI 偏激基础模子仅仅 AI 创新波澜中的第二波波澜,将来很可能会出现很多波波澜。在 Dally 的密切存眷下,Nvidia Research 确保 GPU 芯片束缚发展,何况可能在多半并行计算中闪现深广的使命负载不错与将来的 GPU 相团结,并保捏本事飞轮(从而保捏资产飞轮)动弹。

但这需要投资。

咱们直到 2010 年 4 月才运行追踪 Nvidia 的财务景象,也即是其 2011 财年第一季度,因为其数据中心业务尚未竣事。Nvidia 直到 2015 财年第一季度才公布数据中心部门的收入,其时的收入仅为 5700 万好意思元,而其时的总销售额为 11 亿好意思元,净收入为 1.37 亿好意思元。这并非毫无道理的——咱们真的是这样觉得的——Nvidia 在阿谁季度滥用了 3.37 亿好意思元(占收入的 30.6%)用于研发,何况在已往两年中,其研发开销占收入的比例一直保捏在新高,在 2014 财年第一季度达到顶峰,占收入的 34.2%。

这是 Nvidia 为利用第一波东谈主工智能波澜和为第二波波澜作念好准备所作念的基础使命。而且请宽心,它一经瞻望了第三波波澜(它称之为物理东谈主工智能),而且毫无疑问,它正在为第四波波澜作念准备。

目下,在新手看来,Nvidia 似乎正在大幅削减研发开销,咱们应该追想其将来的投资。事实并非如斯。事实是,Nvidia 之是以冒失把持 GPU 计算市集,是因为它花了二十年时分创建了 CUDA 平台,该平台网罗了朝上 900 个库、框架和模子,复古着天下上每一个加快的 HPC 和 AI 应用设施,而且它不错为当代数据中心 GPU 运行 AI 试验使命负载所需的稀缺 HBM 内存支付完全最高的价钱,何况由于想路链或推理模子的计算需求,它越来越多地用于 AI 推理。

要是 HBM 不是那么稀缺和昂然,AMD 的 DRAM 将会与 MI250 和 MI300 GPU 竞争,何况其 GPU 销量也会比目下多得多。可是 HBM 绝顶稀缺,AMD 无法像 Nvidia 那样支付那么多钱。可是,关于某些用户子集(HPC 东谈主群)来说,CUDA X 堆栈(Nvidia 软件的称呼)并不像对 AI 东谈主群那样病笃,AI 东谈主群站在 HPC 东谈主群的肩膀上,无论他们若何抗议。(举例,NCCL 是一个过程修饰的 MPI。)这即是为什么你会看到 AMD 用其 GPU 追求传统的 HPC 中心,并在何处取得存眷,因为 HPC 中心在计算方濒临价钱极为敏锐。AI 客户通过计算来制作有望赢利的模子,他们不错找到任性数目的投资者来竣事这一指标。HPC 中心依靠州和国度政府。

回来已往十五年,你会发现 Nvidia 的研发开销占营收的 20% 到 25% 之间,这与 Meta Platforms 在归并时期接办盘算我方的办事器、存储、麇集和数据中心以来所作念的差未几。谷歌倾向于将营收的 15% 到 20% 用于研发,甲骨文亦然如斯。微软的研发开销约为 15%,高下浮动不大,亚马逊的研发开销则低几个百分点。AMD 的研发开销已往在 15% 到 20% 之间,但目下与 Nvidia 处于归并水平。可是,在已往的十二个月里,Nvidia 的销售额为 1305 亿好意思元,是 AMD 258 亿好意思元的 5.1 倍。

尽管如斯,尽管 Nvidia 在 GenAI 激越时代一直在加多研发预算,但它并莫得将 20% 到 25% 的收入用于研发。事实上,自 2023 年夏日 GenAI 激越使 Nvidia 的收入和收益飙升以来,其销售额占比一直呈下落趋势。在已往的 12 个月中,它的平均收入略低于 10%。但与 2024 财年比拟,这仍然代表着 2025 财年增长了 48.9%,研发总数为 129.1 亿好意思元。

这张对数图不错更好地展示 Nvidia 研发开销增长的结实性:

咱们不知谈这个数字中有几许是研发,ag百家乐在线有几许是开辟,但咱们觉得,跟着 Nvidia 领受越来越多的数据中心硬件和软件堆栈,研发投资将稳步增长,开辟资本也将激增。很难准确说出。

正如 Dally 所说,Nvidia Research 大致将其分为两个部分,即所谓的供给方和需求方。

供应方波及从电路到系统架构等各个方面的研究,其明确任务是提供“让 GPU 变得伟大的本事”,正如他所说。这种供应方研究目下包括 GPU 存储系统和安全性,它们是任何交易 AI 系统不可或缺的一部分。

需求方是对各式应用限制进行研究,以便加快计算限制束缚扩大,从而鼓动对 Nvidia GPU 的需求。有两个不同的 AI 小组,一个在多伦多,另一个在特拉维夫,还有一个在圣克拉拉,从事应用深度学习研究。台湾的实验室是进行生成式 AI 使命以及多模态学习和 3D 视觉的处所。有特意的 AI 实验室专注于机器东谈主和自动驾驶汽车,其他小组专注于大型言语模子或高效的 AI 算法。澄莹有三个小组专注于图形,一个小组从事量子物理和化学。

Nvidia Research 刚刚组建了一个量子计算研究小组,试图评估该本事的近况,并了解 Nvidia 何时何地冒失收拢这一机遇。

偶尔,各人也会有 Dally 所说的“登月事营”,即来自 Nvidia 研究机构和居品部门的研究东谈主员将一项新本事付诸实践。RT 中枢是显卡的一部分(因此一些推理卡卖给了数据中心),用于加快光泽追踪的处理,这即是登月事营的一个例子。该口头于 2013 年启动,RT 中枢于 2017 年进入“图灵”GPU。

Nvidia 可能有大致 500 名研究东谈主员,他们精致隶属于 Nvidia Research,但还阑珊千名来自居品组的工程师,他们亦然某些口头的一部分。Nvidia 目下领有大致 36,000 名职工,咱们猜测其中 75% 从事软件使命,这是已往至少十年来 Nvidia 职工的传统份额。

Nvidia Research 向居品部门转念的最见效的本事之一是 NVLink 和 NVSwitch,这是咱们之前计划过的。但在 GTC 2025 的主题演讲中,Dally 进一步进展:

“我本体上在 2012 年支配从动力部取得了一份公约,其时咱们正在为 Oak Ridge 树立超等计算机,”Dally 证明谈,他指的是 IBM 是“Summit”超等计算机的主要承包商的公约。“手脚这些口头的一部分,有研发资金。是以我央求了一些资金来开辟 GPU 麇集。我牢记,其时,动力部但愿分管该口头的资本。他们但愿 Nvidia 支付 40%,动力部支付 60%。我去找 Jensen,他说,“完全弗成。是的,咱们不作念麇集。咱们是一家 GPU 公司。”是以我回到了动力部,红运的是,他们 100% 资助了开辟第一个 NVSwitch 和第一个 NVLink 的口头。从那时起,本体上,这些口头在咱们完成之前就被夺走了,他们相识到他们需要让几个 GPU 看起来像一个大 GPU。从那时起,Nvidia 就一直参与麇集业务。”

但达利暗意,关于 Nvidia Research 来说,最病笃的本事转念可能是机器学习。

“因此,在 2011 年与斯坦福共事吴恩达共进早餐后,我让 Nvidia Research 参与了机器学习,”Dally 回忆谈。“其时他告诉我,他在 Google Brain 使用 16,000 个 CPU 在互联网上寻找猫。我想,哇,咱们不错用 GPU 作念到这少量,而且滥用的资源少得多。是以我指派其时担任编程系统研究员的 Brian Catanzaro 与 Andrew 妥洽,他将该软件移植到 48 个 GPU 上运行,本体上在 48 个 GPU 上运行速率比在 16,000 个 CPU 上运行速率更快。该软件酿成了 cuDDN,并引颈咱们走上了如今深度学习的谈路。”

多年来,本事转让取得了很多见效,以下是一些例子:

Dally 在本次 GTC 上谈到的本事之一是接地参考信号,早在 2019 年夏天的 Hot Chips 上,他就曾与咱们计划过这项本事。GRS 是一种单端信号本事,为了将其大大简化,它允许 Nvidia 通过有机基板上的导线驱动两倍的每针带宽,这是其他差分信号本事的两倍,亦然芯片旯旮每毫米带宽的两倍。六年后,GRS 信号被用于将 Nvidia 的“Grace”CG100 CPU 与 DGX GB300 系统中行将推出的“Blackwell”B300 GPU 衔接起来。

早在 2013 年,当 GRS 研究刚刚运行时,Nvidia 就能以大致半皮焦耳/比特的速率传输 25 Gb/秒的信号,但为了使信号更结实,它在坐褥 GRS 时将其普及到大致 1 皮焦耳/比特。Dally 说,典型的 PCI-Express 链路需要大致 5 皮焦耳到 6 皮焦耳/比特的信号。

每天抛出新主义,咱们期许这些主义最终能成为居品。这是插入器上基于反相器的信号,举例,您不错在单个封装上将多个 GPU 芯片相互衔接:

以下是 Nvidia 针对 3D 芯片堆叠的互连步伐:

以下是 3D 堆叠与中介层在每引脚带宽以及推送信号所消耗的每位飞焦耳方面的比较:

它会一直捏续下去,正如你从不雅看 Dally 在 GTC 2025 上的 Nvidia Research 演示以及他多年来在各式举止中所作念的演示中所看到的那样。

其时,IBM 绝顶富足,不错进行任何它想进行的研究。自后,当公司在 20 世纪 90 年代初堕入窘境,蓝色巨东谈主距离歇业只好一步之遥时,惟逐个位从外部聘用的 IBM 首席施行官路易斯·郭士纳 (Louis Gerstner) 所作念的第一件事即是让 IBM 研究部门专注于处理影响信得过客户的问题。

Nvidia 从未需要再行辘集研究东谈主员和工程师来竣事这少量。他们所作念的即是这些。但愿 Nvidia 目下的收入起首和净收入池绝顶丰富,公司不会过度千里迷于研究,追想会错过行将到来的下一波波澜。它所需要作念的即是坚捏我方的 GPU knitting,,而其门路图标明这即是计划。

还有一件事需要研究:Nvidia 并不是什么都发明的,但它确乎发明了它觉得需要与竞争敌手分歧开来或开拓新市集的东西。举例,Nvidia 从第三方购买 PCI-Express 交换机和重定时器。它从多个供应商何处购买 DRAM、GDDR、HBM 和闪存。它对从外部引进的本事的特定用例有偏好,并在有必要的情况下保捏中立。当它想以比重新运行创建本事更快的速率为客户作念某事时,它会收购公司——Mellanox Technologies 即是一个很好的例子,Cumulus Networks 和 Run.ai 亦然如斯。

https://www.nextplatform.com/2025/03/30/nvidia-research-the-real-reason-big-green-commands-big-profits/

半导体极品公众号保举

专注半导体限制更多原创内容

存眷全球半导体产业动向与趋势

*免责声明:本文由作家原创。著述内容系作家个东谈主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或支捏,要是有任何异议,迎接磋议半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第4080期内容,迎接存眷。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID:icbank

可爱咱们的内容就点“在看”共享给小伙伴哦

http://agkykmdhuc.com/zrodby/agbaijialezaixian/499030.html

QQ咨询

QQ: