发布日期:2024-12-25 07:18 点击次数:63
英伟达的市集份额到底有多大?公司的竞争上风到底在哪?AMD、谷歌、亚马逊的契机在哪?数据短缺是伪命题吗?行业成本开支真实没问题吗?休养点在哪?
近日,Semi Analysis创举东说念主兼首席分析师迪伦·帕特尔(Dylan Patel)、硅谷有名科技投资东说念主比尔.柯尔利(Bill Gurley)、布拉德·格斯特纳 (Brad Gerstner)张开三方对谈,就AI芯片咫尺的近况,英伟达的竞争上风还能不竭多久,数据短缺是否是伪翌日,以及AI成本开支还能不竭多久进行了真切的辩论。
以下是对谈中枢重点:
不探讨谷歌,全球AI责任量中98%是在英伟达芯片上运行的,要是探讨谷歌这个数据是70%。
英伟达的上风是三方面:公司软件优于大部分半导体公司;硬件方面,他们概况率先领受新工夫,并以极快的速率将芯片从设想推向部署;辘集方面,他们收购MELLONOX,极地面进步了辘集才气。
谷歌诚然在软件和磋磨元素方面有我方的交融,但在芯片封装设想和辘集等痛苦畛域需要与其他供应商合营。
跟着数据中心的成立和电力供应的弥留,企业需要愈加合理地缱绻资源。
文本是咫尺最灵验的数据畛域,但视频数据蕴含的信息更多。此外,预试验只是模子试验的一部分,推理时刻磋磨也很紧要。要是数据耗尽,可以通过创造合成数据来络续修订模子。
诚然预试验的一次性巨大收益可能也曾昔时,但通过增加磋磨资源,企业仍然可以得到一定的收益,尤其是在竞争锐利的环境下。收益仍然存在,只是获取难度增加了。
合成数据在概况进行功能考据的畛域最灵验。
华尔街咫尺对数据中心成本开支的估量频繁过低。通过追踪全球数据中心,微软、Meta、亚马逊等公司在数据中心容量上的开销相称大。这标明他们信托通过扩大范围可以在竞争中凯旋,是以才会束缚参加。
英伟达不是2000年的想科,两边估值莫得可比性。
预试验可能会际遇收益递减或成本过高的问题,但合成数据生成和推理时刻磋磨成为新的发展标的。
咫尺公司对于推理的参加相对较小。权衡在异日6个月到 1 年,在某些具有功能考据的基准测试中,模子性能将有巨大进步。
咫尺 GPT - 4o相称崇高,但要是裁减模子范围,成本会大幅下落。
AMD 在芯片工程方面阐扬出色,但在软件方面存在显然不及。他们衰退弥散的软件开发东说念主员,也莫得参加资金成立 GPU 集群来开发软件,这与英伟达酿成显明对比。
谷歌与博通合营构建的TPU系统,在芯片互连、辘集架构等方面具有竞争力,以至在某些方面优于英伟达。
谷歌的TPU在生意上的凯旋相对有限,主要原因包括其软件不够通达,订价莫得竞争力,主要用于里面作事等。
亚马逊芯片通过裁减成本,在 HBM 内存带宽和每好意思元成本方面具有上风,诚然在工夫方针上(如内存、带宽等)低于英伟达,但对于一些对成本敏锐的应用场景具有眩惑力。
从市集举座来看,超大范围数据中心境划在来岁大幅增加开销,这将带动悉数这个词半导体生态系统(包括辘集开导供应商、ASIC 供应商、系统供应商等)的发展。
2026 年的情况存在一定的不笃定性。一方面,模子性能是否概况不竭进步将是环节要素。要是模子性能进步速率放缓,可能会导致市集出现休养。
要是情况络续好转,信托 OpenAI、XAI 和 Anthropic 会络续筹集越来越多的资金并络续这场竞争,因为一朝其中一家参加,埃隆(马斯克)就会迫使其他东说念主参加更多,因为每个东说念主都不想被埃隆超越范围。
以下为对谈全文,由AI进行翻译
主理东说念主:迪伦,原宥来到咱们的节目。今天咱们要真切探讨一个本年一直在辩论的话题,那便是磋磨机宇宙正在发生的根人性变化。比尔,你先来给内行先容一下迪伦吧。
比尔:好的,咱们很欢欣邀请到 SemiAnalysis 的迪伦・帕特尔。迪伦飞快建立起了全球半导体行业最受尊敬的筹商团队之一。今天咱们想真切探讨迪伦在工夫层面所了解的架构、芯片缩放趋势、全球市集的主要参与者、供应链等常识,并将其与咱们听众心境的生意问题接洽起来。我但愿能对与东说念主工智能飞扬相干的半导体行动进行一个阶段性的总结,并尝试从举座上独揽其发展趋势。
迪伦:很欢欣来到这里。我小时候,我的 Xbox 坏了,我父母是外侨,我在佐治亚州的农村长大,没什么事可作念,就只可捣饱读电子居品。我掀开 Xbox,短路了温度传感器,然后修好了它。从那时起,我就对半导体产生了浓厚的兴味,运转阅读半导体公司的财报并投资,还真切筹商工夫相干的内容。
主理东说念主:能给咱们简便先容一下 SemiAnalysis 吗?
迪伦:咱们是一家半导体和东说念主工智能筹商公司,为超大范围数据中心、大型半导体私募股权公司和对冲基金等提供作事。
咱们销售全球数据中心的相干数据,包括每个季度的功率、成立进展等;追踪全球约 1500 家晶圆厂(但践诺环节的约 50 家);还提供供应链相干数据,如电缆、作事器、电路板、变压器等开导的数据,并进行预测和辩论作事。
不探讨谷歌,全球98%的AI责任都使用英伟达芯片比尔:迪伦,咱们都知说念英伟达在 AI 芯片畛域占据主导地位,你认为咫尺全球 AI 责任量中有若干是在英伟达芯片上运行的呢?
迪伦:要是不探讨谷歌,占比超越 98%。但要是把谷歌算进去,简短是 70%。因为谷歌有很大一部分 AI 责任量,尤其是坐褥性责任量,是在我方的芯片上运行的。
比尔:你说的坐褥性责任量是指那些能产生收益的业务,比如谷歌搜索和谷歌的其他大型 AI 驱动业务吗?
迪伦:没错。谷歌的非大谈话模子(LLM)和其他坐褥性责任负载运行在其里面自研芯片上。
践诺上,谷歌早在 2018 - 2019 年就在搜索责任负载中使用了 Transformer 工夫,比如 BERT 便是那时相称著名且流行的 Transformer 模子之一,多年来一直在其坐褥搜索责任负载中运行。
三项上风荟萃让英伟达咫尺主导市集比尔:那回到英伟达,为什么它如斯主导市集呢?
迪伦:可以把英伟达比作三头龙。全球大多数半导体公司在软件方面阐扬欠安,但英伟达以外。
在硬件方面,英伟达也比大多数公司更出色,他们概况率先领受新工夫,并以极快的速率将芯片从设想推向部署。此外,在辘集方面,他们收购了 MELLONOX,极地面进步了辘集才气。这三个方面的上风相荟萃,使得其他半导体公司难以单独与之竞争。
比尔:你之前写过一篇著述,匡助内行交融了英伟达这些当代顶端部署的复杂性,包括机架、内存、辘集和范围等方面,能再给咱们简便先容一下吗?
迪伦:好的。当咱们看 GPU 时,运行一个 AI 责任负载频繁需要多个芯片协同责任,因为模子的范围也曾远超单个芯片的才气。
英伟达的 NVLink 架构概况很好地将多个芯片联网,但意义的是,谷歌和博通早在英伟达之前就合营构建了近似的系统架构,比如谷歌在 2018 年就用 TPU 构建了近似系统。
谷歌诚然在软件和磋磨元素方面有我方的交融,但在芯片封装设想和辘集等痛苦畛域需要与其他供应商合营。
当今,英伟达推出了 Blackwell 系统,这是一个包含多个 GPU 的机架,重达三吨,非凡千根电缆,相称复杂。
而竞争敌手如 AMD 等,最近也通过收购来进入系统设想畛域,因为构建一个概况协同责任、冷却细密、辘集可靠的多芯片系统是一个极具挑战性的问题,半导体公司频繁衰退相干工程师。
比尔:那你认为英伟达在哪些方面进行了增量各异化投资呢?
迪伦:英伟达主要在供应链方面进行了多量投资。他们必须与供应链细腻合营,以开发下一代工夫并率先推向市集。
例如,在辘集、光学、水冷和电力传输等畛域,英伟达束缚推出新工夫,以保持其竞争上风。他们的节律相称快,每年都有好多变化,像 Blackwell、Rubin 等居品的推出。要是他们停滞不前,就会濒临竞争压力,因为其他竞争敌手也在远程追逐。
比尔:要是英伟达停滞不前,他们在哪些方面可能会濒临竞争?市集上其他替代品需要具备哪些条件才能占据更多的责任负载份额呢?
迪伦:对于英伟达来说,其主要客户在 AI 方面的开销巨大,他们有弥散的资源来筹商如安在其他硬件上运行模子,尤其是在推理方面。
诚然英伟达在推理软件方面的上风相对较小,但他们的硬件性能咫尺是最佳的,这意味着更低的成本成本、运营成本和更高的性能。要是英伟达住手跨越,其性能上风将不再增长,其他竞争敌手就有契机。
例如,当今跟着 Blackwell 的推出,英伟达不仅在推感性能上比以前的居品快 10 - 15 倍(针对大型模子进行了优化),还裁减了利润率以玩忽竞争,他们操办每年将性能进步 5 倍以上,这是一个相称快的速率。同期,AI 模子自己也在束缚修订,成本也不才降,这将进一步刺激需求。
比尔:你提到软件在试验和推理中的作用不同,能慎重阐扬一下吗?
迪伦:好多东说念主把英伟达的软件简便地称为 Kuta,但践诺上它包含好多端倪。
在试验方面,用户频繁依赖英伟达的软件性能,因为筹商东说念主员束缚尝试新的方法,莫得太多时刻去优化性能。
而在推理方面,像微软这么的公司,会在有限的几个模子上进行部署,而且每六个月控制更新一次模子,他们可以参增加量工程师来优化这些模子在其他硬件上的运行性能。例如,微软也曾在 AMD 等公司的硬件上部署了 GPT 立场的模子。
主理东说念主:咱们之前提到过一张图表,夸耀异日四年将有一万亿好意思元的新 AI 责任量,以及一万亿好意思元的数据中心替换责任量,你对此怎么看?有东说念主认为东说念主们不会用英伟达的 GPU 来重建 CPU 数据中心,你怎么回复这种不雅点?
迪伦:英伟达永恒以来一直在推动非 AI 责任负载使用加速器,比如专科可视化畛域(如 Pixar 制作电影)、西门子工程应用等都使用了 GPU。
诚然这些在 AI 畛域比拟只是一小部分,但照实存在应用。对于数据中心替换,诚然 AI 发展飞快,但传统责任负载(如辘集作事、数据库)并不会因此住手或放缓。数据中心的供应链较长,成立周期也长,这是一个现实问题。
例如,英特尔的 CPU 在昔时几年进展自若,而 AMD 的出现提供了更高性能的采纳,许多亚马逊数据中心的旧英特尔 CPU 作事器也曾使用多年,当今可以用性能更高的新作事器(如 128 核或 192 核)来替换,这么不仅能进步性能,还能在沟通功耗下减少作事器数目,从而为 AI 作事器腾出空间。
是以,诚然非凡据中心替换的情况,但市集举座仍在增长,只是 AI 的发展促使了这种步履,因为企业需要更多的磋磨才气来维持 AI 应用。
主理东说念主:这让我想起上周萨沙在节目中提到的,他说他们受到数据中心和电力的落幕,而不是芯片的落幕,你合计这与你刚刚的阐扬有什么关联吗?
迪伦:我认为萨沙的不雅点强调了数据中心和电力在现时的瓶颈地位,这与芯片供应情况不同。跟着数据中心的成立和电力供应的弥留,企业需要愈加合理地缱绻资源,这也阐扬了为什么他们会选用一些措施,如从加密货币挖矿公司获取电力资源,或者延迟旧作事器的折旧周期等。
要是没非凡据,可以创造合成数据修订模子主理东说念主:在辩论替代英伟达的有操办之前,咱们先谈谈你在著述中提到的预试验和缩放申辩吧。伊利亚特说数据是 AI 的 “化石燃料”,咱们也曾消费了大部分,预试验的巨大收益不会再重叠,你怎么看这个不雅点?
迪伦:预试验缩放定律相对简便,增加磋磨资源可以进步模子性能,但这触及到数据和参数两个维度。
当数据耗尽时,诚然可以络续扩大模子范围,但收益可能会减少。不外,咫尺咱们对视频数据的期骗还相称有限,这是一个诬蔑。践诺上,文本是咫尺最灵验的数据畛域,但视频数据蕴含的信息更多。此外,预试验只是模子试验的一部分,推理时刻磋磨也很紧要。要是数据耗尽,咱们可以通过创造合成数据来络续修订模子,例如 OpenAI 等公司正在尝试的方法,通过让模子生成多量数据,然后进行功能考据,筛选出灵验的数据用于试验,从而提高模子的性能。诚然这种方法咫尺还处于早期阶段,参加的资金相对较少,但它为模子修订提供了新的标的。
主理东说念主:从投资的角度来看,英伟达备受瞩目。但要是预试验的收益也曾大部分被获取,为什么内行还在建造更大的集群呢?
迪伦:诚然预试验的一次性巨大收益可能也曾昔时,但通过增加磋磨资源,咱们仍然可以得到一定的收益,尤其是在竞争锐利的环境下,企业但愿通过进步模子性能来保持竞争力。
此外,模子与竞争敌手模子之间的对比也促使企业束缚参加。诚然从投资酬谢率来看,络续扩大范围可能是对数级别的崇高,但仍然可能是一个感性的决策,因为收益仍然存在,只是获取难度增加了。而且,跟着合成数据生成等新方法的出现,模子修订的速率可能会加速,这也为企业络续投资提供了能源。
主理东说念主:那在哪些畛域合成数据最灵验呢?能例如证据吗?
迪伦:合成数据在概况进行功能考据的畛域最灵验,比如在谷歌的作事中,他们有多量的单元测试来确保系统平常运行,这些单元测试可以用来评估 LLM 生成的输出是否正确。
在数学、工程等畛域,输出可以通过明确的顺序进行评估,而在一些主不雅畛域,如艺术、写稿立场、谈判技巧等,很难进行功能考据,因为这些畛域的评判顺序比较主不雅。例如,在图像生成畛域,很难说哪张图像更好意思,因为这取决于个东说念主喜好;而在数学磋磨或工程设想中,可以明确判断输出是否正确。
华尔街低估了大型数据中心的成本开销主理东说念主:你从超大范围数据中心那儿听到了什么?他们都说来岁成本开销(capex)会增加,正在建造更大的集群,这是真实吗?
迪伦:把柄咱们的追踪和分析,华尔街对 capex 的估量频繁过低。咱们追踪全球每个数据中心,发现微软、Meta、亚马逊等公司在数据中心容量上的开销相称大。
他们签署了来岁的数据中心租出契约,权衡云收入将加速增长,因为他们咫尺受到数据中心容量的落幕。这标明他们信托通过扩大范围可以在竞争中凯旋,是以才会束缚参加。
主理东说念主:你之前提到的对于预试验的大范围集群成立,要是预试验趋势发生变化,他们在推理方面的成立会有什么变化吗?
迪伦:在试验神经辘集时,正向传播用于生成数据,反向传播用于更新权重,而在合成数据生成、评估输出和试验模子的新范式中,正向传播的磋磨量大幅增加,因为需要生成多量可能性,而反向传播的磋磨量相对较少,因为只在少数灵验数据上进行试验。这意味着在试验经由中有多量的推理磋磨,践诺上试验中的推理磋磨量比更新模子权重的磋磨量还要大。
此外,在试验模子时,是否需要悉数组件都在兼并位置取决于具体情况。
例如,微软在不同地区成立多个数据中心,因为他们发现可以将推理责任负载分派到不同数据中心,同期在其他处所更新模子,这么可以更灵验地期骗资源。因此,预试验的范式并莫得放缓,只是每一代的修订成本呈对数增加,但企业正在寻找其他方法来裁减成本,提高效能。
英伟达不是2000年的想科主理东说念主:有东说念主将英伟达与想科在 2000 年的情况进行比较,你怎么看?
迪伦:这种比较存在一些抵拒正之处。想科的收入很大一部分来自利东说念主 / 信贷投资于电信基础方法成立,而英伟达的收入来源与此不同,其私东说念主 / 信贷投资占比较小,如 CoreWeave 由微软维持。
此外,在互联网泡沫时期,进入该畛域的私东说念主成本范围巨大于当今,诚然当今风险投资市集看似活跃,但践诺上私东说念主市集(如中东主权金钱基金)的资金尚未多量进入。而且,与想科那时比拟,当今这些盈利公司的成正本源、正现款流以及投资的感性进程都有所不同。英伟达咫尺的市盈率为 30,与想科那时的 120 比拟还有很大差距,因此不成简便地进行类比。
推理时刻推理(inference time reasoning)是推广智能的新标的主理东说念主:你提到推理时刻推理是推广智能的新标的,而且磋磨密集度比预试验更高,能慎重阐扬一下吗?
迪伦:预试验可能会际遇收益递减或成本过高的问题,但合成数据生成和推理时刻磋磨成为新的发展标的。
推理时刻磋磨听起来可以,因为不需要在试验模子上破耗更多成本,但践诺上存在很大的权衡。以 GPT - 4o 为例,它在推理时会生成多量数据,但最终输出给用户的只是其中一部分,在这个经由中,模子需要消费多量磋磨资源。
例如,在处理用户申请时,模子可能会生成数千个中间落幕(令牌),但最终只输出几百个给用户。这意味着磋磨成本大幅增加,不仅因为生成的令牌数目增加,还因为在处理这些令牌时,需要更多的内存来存储落魄文信息(如 KV 缓存),这导致作事器概况同期处理的用户申请数目减少,从而增加了每个用户的成本。
从成本角度看,对于微软这么的公司,要是其推理收入为 100 亿好意思元,毛利率为 50 - 70%,成本为几十亿好意思元,当使用像 GPT - 4o 这么的模子时,由于推理磋磨成本增加,其成本可能会显赫上升,尽管模子性能更好,可以收取更高用度,但成本的增加幅度可能超越收入的增加幅度。
GPT - 4o模子的企业级需求被低估了主理东说念主:那市集对 GPT - 4o 这么的模子的企业级需求是被高估如故低估了呢?
迪伦:GPT - 4o 咫尺还处于早期阶段,东说念主们对它的交融和应用还不够真切。
但从咫尺一些匿名基准测试来看,有好多公司(如谷歌、Anthropic 等)正在开发推理模子,而且他们看到了通过增加磋磨资源来进步模子性能的明确旅途。这些公司在推理方面的参加相对较少,咫尺还处于起步阶段,但他们有很大的进步空间,权衡在异日 6 个月到 1 年,在某些具有功能考据的基准测试中,模子性能将有巨大进步。因此,市集对这类模子的需求后劲巨大,但咫尺还难以准确评估。
主理东说念主:追想互联网波澜,那时好多创业公司领先依赖甲骨文和太阳公司的工夫,但五年后情况发生了变化。在 AI 芯片畛域,这种情况会发生吗?
迪伦:咫尺 GPT - 4o 相称崇高,但要是裁减模子范围,成本会大幅下落。
例如,从 GPT - 4o 到 Llama 7b,成本可以裁减好多。对于袖珍模子,推理相对容易,可以在单个芯片上运行,这导致市集竞争锐利,许多公司提供基于 Llama 等模子的 API 推理作事,价钱竞争锐利,利润率较低。
比拟之下,像微软这么使用 OpenAI 模子的公司,毛利率较高(50 - 70%),因为他们领有高性能模子,而且有企业或消费者雀跃为其支付高额用度。
但跟着更多公司进入市集,模子的各异化变得愈加紧要,只消领有最佳的模子,而且概况找到雀跃为其付费的企业或消费者,才能在竞争中脱颖而出。因此,市集正在快速筛选,最终可能只消少数几家公司概况在这个畛域竞争。
谷歌、亚马逊芯片各自有优劣主理东说念主:那在这些竞争公司中,AMD 的情况怎么呢?
迪伦:AMD 在芯片工程方面阐扬出色,但在软件方面存在显然不及。他们衰退弥散的软件开发东说念主员,也莫得参加资金成立 GPU 集群来开发软件,这与英伟达酿成显明对比。
此外,AMD 一直专注于与英特尔竞争,衰退系统级设想训戒,诚然收购了 ZT 系统公司,但在大范围数据中心的系统架构设想方面仍逾期于英伟达。
超大范围数据中心客户(如 Meta 和微软)在匡助 AMD 修订软件和交融模子开发、推理经济等方面,但 AMD 仍无法与英伟达在兼并时刻表上竞争。权衡 AMD 来岁在微软和 Meta 等客户中的 AI 收入份额将下落,但仍能从市集中得益,只是不会像英伟达那样取得巨大凯旋。
主理东说念主:谷歌的 TPU 情况呢?它似乎是仅次于英伟达的采纳。
迪伦:谷歌的 TPU 在系统和基础方法方面有其私有之处。单个 TPU 的性能诚然可以,但更紧要的是其系统设想。谷歌与博通合营构建的 TPU 系统,在芯片互连、辘集架构等方面具有竞争力,以至在某些方面优于英伟达。
此外,谷歌多年来领受水冷工夫,提高了系统的可靠性,而英伟达直到最近才意志到需要水冷工夫。
关联词,谷歌的 TPU 在生意上的凯旋相对有限,主要原因包括其软件不够通达,好多里面使用的软件(如 DeepMind 使用的软件)未向谷歌云用户提供;
订价方面,诚然官方订价较高,但践诺谈判后价钱仍衰退竞争力,比拟其他云作事提供商(如甲骨文、微软、亚马逊等),谷歌的 TPU 价钱莫得上风;
此外,谷歌将多量 TPU 用于里面作事(如搜索、Gemini 应用等),外部租用市集份额较小,主要客户为苹果,且苹果租用 TPU 可能与对英伟达的立场关联(可能存在竞争关系,但具体原因暂未说起)。
主理东说念主:那亚马逊呢?能像先容谷歌 TPU 那样慎重先容一下亚马逊的芯片吗?
迪伦:亚马逊的芯片可以被称为 “亚马逊基础版 TPU”。它在一些方面具有成本效益上风,例如使用更多的硅和内存,辘集才气与 TPU 有一定可比性,但在效能方面存在不及,如使用更多的有源电缆(与博通合营的谷歌 TPU 使用无源电缆),硅单方面积使用效能较低等。
关联词,亚马逊通过裁减成本,在 HBM 内存带宽和每好意思元成本方面具有上风,其芯片价钱远低于英伟达,诚然在工夫方针上(如内存、带宽等)低于英伟达,但对于一些对成本敏锐的应用场景具有眩惑力。
亚马逊与 Anthropic 合营建立了一个包含 40 万个芯片的超等磋磨机系统,他们信托大范围的芯片部署对于推理和模子修订是有用的,尽管在工夫上可能不是首先进的,但成本效益使其成为亚马逊的一个合理采纳。
来岁成本开支明确,2026年后存在不笃定性主理东说念主:预测 2025 - 2026 年,你对半导体市集有什么想法?比如博通最近股价上升,英伟达股价波动,你认为市集会怎么发展?
迪伦:博通在定制 ASIC 畛域取得了一些后果,例如赢得了多个定制 ASIC 订单,包括谷歌等公司的订单。
谷歌正在远程进步其定制芯片的性能,尤其是在保举系统方面。此外,像 OpenAI 等公司也在开发我方的芯片,苹果也有部分芯片与博通合餬口产,他们咫尺取得了一些后果。但这些后果不会都在 2025 年体现出来,部分会在 2026 年清晰。
这是定制 ASIC 畛域,是以它可能会失败,就像微软的某些口头一样无法大范围实践,也可能会相称凯旋,至少能像亚马逊那样在性价比喻面阐扬出色并大范围应用,是以这里存在风险。
但博通也曾赢得了定制 ASIC 业务,而且相称紧要的是,辘集方面的业务相称环节。是的,英伟达销售多量的辘集开导,但当东说念主们制造我方的 ASIC 时,他们会怎么作念呢?他们可以采纳亚马逊或者其他供应商,但他们也需要将许多这些芯片联网。不好敬爱,不是博通(之前口误),他们可以采纳 Marvell 或者其他竞争敌手,比如 Alchipper。
我认为博通有才气制造出与英伟达交换机竞争的居品,好多东说念主认为英伟达交换机是其在硬件方面相对于其他公司的最大竞争上风之一,而博通正在制造与之竞争的居品并推向市集,好多公司将会使用它,不单是是 AMD 会使用博通制造的与英伟达竞争的交换机,因为他们我方莫得这个技巧,是以会找博通来制造。
迪伦:那么,给内行一个预测吧。从现时的半导体市集来看,有 ARM、博通、英伟达、AMD 等繁密公司,跟着咱们迈向 2025 年和 2026 年,悉数这个词市集会络续进步吗?从现时水平来看,谁处于最成心的位置,谁又被高估了,谁被低估了呢?
我永恒看好博通,但在接下来的六个月里,谷歌 TPU 的购买量会有极少放缓,因为他们没非凡据中心空间来放弃这些开导,他们想要更多的数据中心空间,但践诺上他们莫得处所放弃。是以咱们可以看到会有一个暂停,但东说念主们可能会忽略这极少。
除此之外,问题是谁会赢得定制 ASIC 订单呢?是 Marvell 会赢得异日几代的订单吗?如故博通会赢?这些订单的范围会有多大?超大范围数据中心是否概况将越来越多的业务里面化呢?
毫无疑问,谷歌正在试图开脱对博通的依赖,他们可能凯旋也可能失败。不单是是博通,对于英伟达和其他公司来说,咱们也曾履历了这个行业的两个高速发展的年份,2025 年是否会是一个整合的年份呢?
我认为超大范围数据中心来岁的操办相称坚定,他们将会参增加量资金。不论是辘集开导供应商、ASIC 供应商如故系统供应商组成的生态系统都会发展得很好,不论是英伟达、Marvell、博通如故 AMD,天然它们的阐扬会有所不同,有些会更好一些。
东说念主们真实应该关注的问题是 2026 年。开销是否会络续呢?
咱们知说念英伟达来岁的增长率将会相称惊东说念主,这将带动悉数这个词组件供应链的发展,但 2026 年就像是一个清理时刻的到来。
然则,东说念主们是否会络续参加呢?这一切都取决于模子是否会络续变得更好,因为要是模子莫得络续修订,在我看来,来岁模子践诺上会修订得更快,那么就会有一个要紧的市集休养事件,但这不是来岁会发生的事情。
另外一个方面是新云市集将会整合,咱们正在追踪 80 家新云作事提供商,咱们了解他们领有若干 GPU。
当今的问题是,要是你望望 H100 的租出价钱,它们正在大幅下落,不单是是这些新云作事提供商,昔时租用 H100 需要坚决合同并预支 25% 的用度,你只可租用一个集群,而当今你可以以更好的价钱得到 3 个月或 6 个月的租用期,以至比昔时 4 年或 3 年的永恒租用价钱还要好。
而且不单是是英伟达云,亚马逊按需 GPU 的订价也在快速下落,诚然相对来说仍然很贵,但价钱下落得很快。80 家新云作事提供商中可能只消 5 - 10 家概况存活下来,这是因为其中 5 家是主权云作事提供商,另外 5 家控制是具有市集竞争力的企业。
简短可以说超大范围数据中心占据了 50% - 60% 的收入份额,其余的是新云作事提供商和主权东说念主工智能,因为企业购买 GPU 集群的比例仍然十分低,对他们来说,将其外包给新云作事提供商最终可能是更好的采纳,天然对于某些公司,比如 CoreWeave,要是他们概况责罚安全问题的话。
成本开支也曾成为一场博弈,因为每个东说念主都不想被埃隆超越范围迪伦:以至存在这么一种情况,在 2026 年,咱们是否会看到行业产量践诺上比 2025 年下落,或者英伟达的产量从 2025 年运转显赫下落呢?当咱们看到行将到来的定制 ASIC 设想以及英伟达行将推出的芯倏得,每个芯片的收入和内容都在爆炸式增长。
制造 Blackwell 的成本是制造 Hopper 成本的两倍多,是以英伟达可以保持沟通的出货量,即使削减极少利润率,仍然概况竣事增长。
是以,不是单元产量的问题,而是是否存在这么一种情况,即 2026 年行业收入下落或者英伟达收入下落。对我来说,环节在于模子是否会络续快速修订,以及超大范围数据中心是否雀跃将其目田现款流降至零,趁便说一下,我认为他们雀跃。
我认为 Meta 和微软以至可能将其目田现款流降至接近零并全力参加。但这只消在模子络续修订的情况下才会发生。
其次,咱们是否会有多量来自尚未进入该畛域的资金涌入,比如中东、新加坡、北欧和加拿大的主权金钱基金以及养老基金等,他们可以参加浩繁资金,诚然他们咫尺还莫得,但他们有这个才气。
要是情况络续好转,我真实信托 OpenAI、XAI 和 Anthropic 会络续筹集越来越多的资金并络续这场竞争,不单是是关注 OpenAI 咫尺的 80 亿好意思元收入以及来岁可能翻倍或更多的收入,而是他们需要筹集更多资金来进行更大范围的参加.
这将保持这个引擎的运转,因为一朝其中一家参加,埃隆(马斯克)就会迫使其他东说念主参加更多,因为每个东说念主都不想被埃隆超越范围,是以咱们必须参加更多,这有点像一场博弈,就像一种近似帕斯卡赌注的情况。
要是从这个角度交融,这可能是最厄运的情况,我就像是有史以来最厄运的 CEO,照应着最赢利的业务,但要是我过度参加,鼓吹会不满,但这也不要紧,毕竟是 200 亿好意思元、500 亿好意思元的参加,你可以接受这种情况,因为要是这成为参加的原理,你就更有可能过度参加,而在每一个泡沫中咱们老是会过度参加。
然后,你说这一切都取决于模子的修订,我想进一步说,这回到了萨沙上周告诉咱们的,最终这一切都归结于购买 GPU 的东说念主所产生的收入,就像他上周说的,我每年会购买一定数目的 GPU,这将与我在当年或异日几年概况产生的收入相干。
是以他们不会在收入之前过度参加。他知说念我方本年有 100 亿好意思元的收入,他知说念与这些推理收入相干的增长率,而且他和他的团队正在对他们概况承受的参加进行预测。我认为扎克伯格也在作念雷同的事情,我认为苏纳克也在作念雷同的事情。
是以要是你假定他们是感性行事的,那么不单是是模子的修订,还包括使用他们作事的企业的领受率、消费者的领受率以及消费者雀跃为使用 ChatGPT、云作事或其他作事支付的用度。是以,要是你认为基础方法开销将以每年 30% 的速率增长,那么我认为你必须信托潜在的推理收入,不论是在消费者端如故企业端,也将在这个范围内增长。
主理东说念主:是的,这里深信存在事先参加的要素,即现时的参加与对异日五年作事器收入的预期之间的关系,是以我认为深信存在这种要素。但皆备正确的是,模子的修订才是产生更多收入的环节,当模子得到部署时,就会产生收入。是以我认为我得意这极少,但东说念主们深信是在超出预期的情况下进行参加。
嗯,这便是让事情变振作义的处所。很欢欣你能在这里,我是说,你是一位同业分析师,你们作念了好多真切的筹商。祝福你的业务取得凯旋。我认为你为悉数这个词生态系统提供了好多紧要信息。你知说念,我对担忧之墙(默示市集存在担忧情怀)的想法是,咱们都在挑剔并寻找泡沫。
就怕候,恰是这种寻找阻滞了泡沫的真实发生。但你知说念,行动别称投资者和分析师,我看到这种情况会说,深信有一些东说念主在参加,而他们莫得相应的收入来守旧,正如你所说,他们在过度参加。坦率地说,咱们上周从萨沙那儿听到了他的收入情况,他说他有收入而且证据了是若干,但咱们莫得从其他东说念主那儿听到这些。
主理东说念主:是的,没错。是以望望 2025 年谁能拿出收入将会很意义。我认为你也曾看到一些较小的二三线模子在篡改生意模式,慢慢退出竞争,不再参与投资的武备竞赛。我认为这是创造性龙套经由的一部分,但这很意义。很欢欣你能来,相称感谢。
迪伦:相称感谢,但愿来岁能再次见到你。
主理东说念主:太棒了,谢谢,谢谢。提醒内行,以上只是咱们的不雅点,并非投资提议。
风险领导及免责条件 市集有风险,投资需严慎。本文不组成个东说念主投资提议,也未探讨到个别用户特地的投资想法、财务情状或需要。用户应试虑本文中的任何意见、不雅点或论断是否合乎其特定情状。据此投资,包袱自在。