引言
帕特里克: 这是我与戴兰·帕特尔(Dylan Patel)的第二次对话。戴兰是半导体与人工智能基础设施咨询公司 SemiAnalysis 的创始人兼首席执行官,致力于追踪半导体供应链和 AI 基础设施的建设进展。
本次对话的主题是 Token 的供求关系。在需求端,戴兰描述了完全爆发式的增长。他解释了为什么前沿模型是唯一人人渴望的模型,以及人们对其的付费意愿几乎无上限。他自己的公司在 AI 上的支出已从去年的数万美元狂飙至今年的 700 万美元年化运行率。
在供给端,我们详细梳理了内存、逻辑芯片以及晶圆代工设备等各个层面的供应链瓶颈,这些瓶颈将决定这一切的扩张速度。我们还聊到了 Anthropic 的最新模型 Mythos,以及头部大模型实验室需要做些什么来解决其日益严重的公众信任与舆论危机。
请享受我与戴兰·帕特尔的精彩对话。
AI支出逼近人力成本
帕特里克: 你刚才跟我分享了一个令人难以置信的故事,关于你们团队今年使用 Token 的情况发生了戏剧性的变化。你能重新讲讲那个故事吗?它让你对这个世界上正在发生的事情有了怎样的认识?
戴兰: 去年,我们还自认为是 AI 的重度使用者。每个人都在用 ChatGPT,每个人都在用 Claude——只要有人需要,我们就提供订阅服务,当时我们公司的这项支出在数万美元的量级。
然而到了今年,这笔开支直接飙升到了天际。实际上这始于去年 12 月底 Opus 模型的发布。我们公司的总裁道格·奥劳克林(Doug O'Laughlin)在这方面起到了关键的带头作用,他极大地推动了非技术人员使用 AI 进行编程。随着时间的推移,他基本上让全公司都对 AI 彻底“上头”(pilled)。我认为他是这一进程的引领者,当然,我们公司的工程师们原本就一直在使用 AI。
但在今年 1 月,我们的支出突然开始呈现出拐点,随后一路狂飙。我们与 Anthropic 签署了一份企业合同,支出总额暴涨。我记得我上次跟你聊天时,年化支出是 500 万美元对吧?而目前这个数字实际上已经达到了 700 万美元。
帕特里克: 顺便提一句,那次聊天只是在上一周。
戴兰: 而这很大程度上源于实际的使用量。许多以前从未写过代码的员工正在使用 Claude Code,他们有时一天就能花掉数千美元。当然,这个开销是波动的。
有些人某天会花掉几千美元,接着几天花个几百美元,然后又回到一天几千美元。不同用户之间的差异很大,但就整家公司而言,按照目前的速率,我们在 Claude Code 上的年化开支已达 700 万美元。相比之下,我们的员工薪资支出大概在 2500 万美元左右。也就是说,我们在 Claude Code 上的花费已经占到了薪资支出的 25% 以上。
如果这个趋势继续保持下去,到今年年底,我们的 AI 支出将超过员工薪资支出的 100%,这听起来有点吓人。幸好我们的业务增长极快,我不需要在“裁员”和“买 Token”之间做单选题。这更像是一种全新的状态:好吧,我不需要以那么快的速度雇人,我可以把更多的钱花在 AI 上,而且它确实行之有效,这让我们成长得更快。
但我认为其他企业很快就要开始面对一个现实——天呐,如果一个员工使用 Claude Code 能够完成 5 到 15 个人的工作,那么我确实应该考虑裁员了。而且它的应用场景实在是太广泛了。
帕特里克: 能举几个具体的例子吗?
戴兰: 好的。比如,我们有一家建在俄勒冈州的芯片逆向工程实验室(reverse engineering lab),已经建设了一年半。我们配备了一系列昂贵的显微镜和扫描电子显微镜(SEM)。创办这家实验室的唯一目的就是对芯片进行逆向拆解,还原它的电路架构,并解析其制造所使用的材料,这些都是我们所销售的数据的一部分。
过去,分析这些微观结构的数据是一个极其缓慢的过程。然而,我们团队中的一位成员,仅用几千美元的 Claude Token 额度,就开发出了一个经 GPU 加速的应用程序,运行在我们在 CoreWeave 租用的服务器上。现在,每当我们向它发送一张芯片微观图像时,它就能自动识别图像并用不同颜色标注出每一种材料的分布情况。“哦,这部分是铜。哦,栅极的这一部分是钽。栅极的这一部分是锗、钴等。”
这样一来,你就可以非常迅速地对整个芯片的材料堆叠进行有限元分析(finite element analysis)。它不仅有直观的可视化仪表盘,还有完整的图形用户界面(GUI),一应俱全。而这只花费了数千美元的 Claude Token。开发这个应用的员工此前在英特尔(Intel)工作,他说在英特尔,要开发和维护这样一套系统需要一整个建制的团队。如果把这种生产力的解放推广到我们整家公司,那简直是不可思议的。
另一个我认为非常有趣的例子是麦尔肯(Malcolm)。他以前是某家大银行的经济学家,那家银行的经济分析部门大概有 100 到 200 人。他开发出的东西简直太不可思议了。他将各种不同的数据源,比如美联储经济数据(FRED)、就业报告等,通过各种 API 接入进来。我们和一些数据机构签署了合同以获取其 API 访问权限,将数据全部拉取进来,然后开始运行回归分析,从通缩和通胀的角度去研究各种历史技术革命对经济的宏观影响。
美国劳工统计局(BLS)定义了大约 2000 项细分的工作任务。麦尔肯利用 AI 对这些任务逐一进行评估,根据特定的评估标准,打分界定哪些任务目前可以由 AI 完成,哪些不能。评估结果表明,目前大约有 3% 的任务完全可以由 AI 胜任。因此他建立了一个指标体系,用来衡量能够被 AI 替代的工作比重、使用 AI 替代的成本,并以此推算出它所带来的通缩效应。
他将这个现象称为“幽灵 GDP”(Phantom GDP)。即产出虽然在增加,但由于成本下降得如此剧烈,在名义统计上 GDP 反而是萎缩的。他基于此撰写了完整的深度分析,并建立了一个全新的语言模型评估基准,包含 2000 项不同的评估测试。
帕特里克: 这全是他一个人搞定的?
戴兰: 全是他一个人搞定的,没错。他直呼:“兄弟,这在以前需要一个 200 人的经济学家团队干满一年。”他现在完全对 Claude 欲罢不能(psychosis),逢人便说,一切都彻底变了。
顺应变革,否则被商品化
帕特里克: 作为企业所有者,看到公司的支出从接近于零,狂飙到占员工薪资的 25%,并继续朝着更高的比例加速,你对此如何思考?在什么时候你会觉得“哇,我需要踩踩刹车,控制一下我们的支出”?
也许我们不需要非得使用最新最前沿的、今天刚刚发布的 Opus 4.7 模型。我是不是可以降级,去选择一些更便宜的替代模型?
戴兰: 我认为自己处于信息分析行业。我们出售深度分析、做咨询、创建数据集。如果我不持续迭代自我、保持提升,我不觉得有什么理由我们的业务在不久的将来不会被迅速且彻底地商品化(commoditized)。
我最初销售的数据集产品,现在有越来越多的人尝试模仿。而我们之所以能站稳市场,是因为我们一直在不断地改进它,使之更加详尽、更有深度。我们在 2023 年使用的方法与现在的同行相差无几,也就是说,那套方法在今天已经是行业标配了。如果我不提高门槛,我就会被商品化。如果我的速度不够快,我就会失去竞争优势。
所以问题在于,是的,AI 会像商品化软件一样商品化许多事物。只有那些能够以极快速度移动、牢牢把握客户、不断提供无与伦比的服务并持续自我迭代的企业,才不会在浪潮中萎缩,反而会实现更快的增长。
而那些故步自封的在位巨头们,则会彻底落败。这有点像是一个生死攸关的问题。如果我不拥抱 AI,别人也会拥抱,进而彻底打败我。
另一个显而易见的例子是能源领域。我们有一支由几位能源分析师组成的团队,工作了大概一年。我们一直在尝试构建一个能源模型,它非常复杂。能源数据服务市场的规模高达 9 亿美元左右,对于我们来说,这显然是一个梦寐以求想要突破的巨大市场。我们一直在缓慢而艰难地向前推进。此前,它对我们的数据服务业务有一些帮助,但尽管我们投入了多名分析师干了一年,我们依然没能在能源数据服务领域取得实质性的突破。
然而,当我们的数据中心能源与工业板块负责人杰里米(Jeremy)突然陷入了“Claude Code 狂热症”之后,一切都改变了。在短短三周里,他花了很多钱——他一天的 Token 花销能达到 6000 美元左右。这是一笔极其惊人的开销。
但在那三周里,他抓取了美国每一个发电厂的信息,抓取了所有高于一定电压的输电线路,并勾勒出了整个美国电网的完整映射图,同时把大量的用能需求端数据也纳入了进来,这些全都是通过各种公共数据源汇聚而成的。他们还做出了一个非常棒的可视化仪表盘,可以清晰地进行交互和查看。
你可以清晰地看到美国所有电网出现电力缺口和电力盈余的微观区域,所有的细节都在几周的时间内构建完成了。我们把这个系统展示给了我们的一些客户(他们是购买我们数据中心数据、同时从事能源交易的交易员),他们大为震惊,问我们:“哇,这花了你们多长时间?这做得太棒了,甚至比某某老牌数据服务公司的产品还要好。”而我们去深挖了一下发现,那家被我们超越的老牌公司,拥有一个 100 人的团队,已经在该系统上开发了整整十年。
显然,我们目前构建的系统在某些维度上还没有他们那么深厚,但在许多方面它确实更优秀。我将通过这套系统将传统的能源数据服务公司商品化。但反过来,如果我自己的动作不够快,谁又会来将我商品化呢?所以从企业所有者的角度来看,虽然支出非常庞大,但问题是:这笔支出是否为我们带来了这些竞争优势,并转化为更多的收入?
帕特里克: 你是否担心,在发展的极限状态下,那些掌握资本、进行投资的机构(他们往往是雇用你们的客户)会认为:“我们自己也有非常聪明的行业分析师。如果这一切变得如此简单,我们干嘛不自己来建?”在什么节点,所有的价值都会被那些在 insights 基础上拥有最高杠杆的投资机构所全部鲸吞?
因为他们能够在数据和洞察的基础上发挥最大的投资杠杆作用。
戴兰: 首先,在任何信息服务行业中,我创造的价值显然无法与我的客户相提并论。如果我花 1 美元卖给你一条信息,你之所以愿意买,是因为你坚信这条信息能帮你做出一个能挣到大于 1 美元回报的决策。因此,你从我身上赚到的钱必然多于我卖数据所赚到的钱。
这些投资机构,尤其是像 Jane Street、Citadel 这样的超级量化对冲基金,对自己的数据挖掘有着极深的积累。然而,这些行业巨擘依然在购买我们的数据,并伴随我们共同成长。因为我认为这其中存在某种“特质”(it factor)——我们的动作更迅速、更加敏捷。
帕特里克: 你们处于前沿,处于技术演进的先锋位置。
戴兰: 我们是一支规模更小的团队,心无旁骛地专注于一个特定的领域——AI 基础设施建设,以及由此带来的 Token 经济学(Tokenomics)等方方面面的剧烈变革。我们能够看清未来的走向。因此我们能以更快的速度行动和构建。
我认为投资界的专业人士——是的,他们也会尝试自己去构建一些我们所提供的内容,但更多时候他们还是会选择购买我们的数据。对他们而言,直接购买我们的数据,然后在此基础上进行二次开发,比他们自己从头搭建要划算得多。
Token价值的变迁
帕特里克: 我觉得每次我跟你聊天,我最终想探究的其实都是 Token 的供需关系。这才是目前最让我着迷的东西。
你自身的这些切身体会,是否改变了你对需求端公式的看法?
戴兰: 如果我们把视角拉大,从宏观维度来看,Anthropic 的年化收入(ARR)已经从 90 亿美元狂飙到了 350 亿到 400 亿美元。到这期节目播出时,可能在 400 亿到 450 亿美元的区间。
他们的算力(compute)并没有增长到同样的量级。如果进行推算,并假设他们没有削减在研究与开发(R&D)上的算力支出(他们显然没有,他们正在研发 Mythos 模型,并且发布了 Opus 4.7),那么在所有的增量算力都用于推理(inference)的假设下,他们的毛利率保底也达到了 72%。在实际中,随着更多算力分摊给研发,真实的毛利率可能比 72% 还要高。
要知道,在今年年初,从他们的一轮融资文件中流出了一份泄密资料。当时披露的毛利率只有 30% 多。
究竟是怎样的业务,能在这么短的时间内将毛利率提升到这种程度?原则很简单:需求实在太旺盛了,他们得以大举削减用户的免费使用额度、施加极高的频率限制等。
目前对于企业客户而言,真正关键的事情是拥有一个专属的 Anthropic 客户代表,签署企业级合同,并获取你所需要的频率限制提升(rate limit increase)。因为除此之外,Token 已经是极度紧俏的稀缺商品,只有付费意愿最高的客户才能获取。
Anthropic 面临着相同的逻辑。这不是一个问题,这只是资本主义运转的规律。是的,市场给他们送去了年化 400 亿美元的 Token 开销,但这些 Token 在实体经济中创造的价值,远远超越了 400 亿美元。
不同的企业利用 Token 所产生的附加值存在天壤之别。但随着模型变得越来越聪明,真正拉开差距的,将是获取那些最顶尖的智能 Token(intelligent tokens)并将其运用到具体业务上的能力。也就是你作为人类,去决策如何调遣这些 Token 来实现业务扩张和价值捕获。
因为传统许多平庸的 SaaS 创业公司也会去购买和生成 Token,但那些在旧金山仅仅用 Claude 来拼凑基础 SaaS 软件产品的平庸初创公司,实际上并没有创造多少不可替代的社会价值,因此他们很快就会在 Token 算力的竞价中被无情地淘汰出局。
帕特里克: 我今天就遇到了类似的体验。在飞过来的航班上,我正在用模型处理一些事情,突然因为额度超限被限流了。当时我看到 4.7 模型发布了,我脑子里立刻蹦出的想法是:我必须立刻切换到 4.7。现在 4.7 已经出来了,我一秒钟都不想再使用 4.6 了。而在过去几周里,我本来对 4.6 感到极其满意。这太神奇了。
人们对于不断升级到最贵、最前沿的技术有着如此执迷且一致的诉求,这让你感到惊讶吗?
戴兰: 毫无疑问。我想在过去一个半月里我最滑稽的一个记忆是,我和我的好哥们利奥波德(Leopold)一起跪在 Anthropic 联合创始人面前,恳求他给我们提供 Mythos 模型的访问权限,而他们却装作根本不知道有这个模型存在。
因为我们知道它肯定已经开发出来了,我们说“求你了,给我们开通吧”,而他只是说“我不知道你们在说什么”。
帕特里克: 当这个模型的评估卡(model card)最终公布时,你是什么反应?
戴兰: 当时这在湾区已经传开了。我们预料到它会非常出色,但如果直接看评测基准,尽管基准指标会随着时间改变,Mythos 依然是两年来所有大模型能力提升中最大的一次跨越。
这是一个非常非常关键的细节:它的能力是如此惊人,以至于他们甚至不敢向公众全面释放它。哪怕他们已经对内测用户宣布了其价格(Mythos 的 Token 价格是现有模型的 5 到 10 倍)。他们不希望释放它,是因为他们担忧它对真实世界的潜在冲击。所以他们只是把一个稍微弱化一些的版本——Opus 4.7 释放给了我们。
帕特里克: 也就是释放给了我们这些凡夫俗子。
戴兰: 而且他们在模型评估文档里明确写道:“我们有意在网络安全和网络对抗的能力上削弱了该模型。”你读过那一页吗?所以无论你是谁,如果手头有足够的资本,就应该去购买 Anthropic 昂贵的企业级订阅,按 Token 实际用量付费,而不是使用基础的个人订阅,因为只有这样你才不会经常被限流。
接着你必须想清楚如何把这些 Token 指引向具有最高价值的业务,并从中变现。因为归根结底,一年或两年后,许多公司的商业模式本质上就是“Token 套利”。Token 本身是极为强大的,关键在于我们要决定将它们引向什么方向。而在三到四年后,模型自身就会懂得如何利用 Token 来创造最大的价值了。
我们可以通过历史回溯来看待这个过程。选择任何一个能力基准。达到某个特定能力级别所需的算力成本,过去是 X,而今天可能只有百分之一或千分之一。例如,DeepSeek 达到 GPT-4 级别能力的训练成本只有后者的六百分之一。而从那之后,GPT-4 级别模型的推理成本还在继续暴跌。
当然,现在已经没有任何人在乎 GPT-4 级别的模型了。大家只想要最前沿的 frontier 模型,因为只有前沿模型才能帮你创造具有核心经济价值的成果。但 GPT-4 级别的模型依然能在一些细分领域发光发热。
所以,人们在一些微小的场景里依然在使用它们。只是因为这部分成本下降得太快了,它已经不再是推动总需求增长的主要引擎。目前真正推动需求爆发的,是层出不穷的新应用场景。
对于我们目前在 Opus 4.6 或 4.7 级别上的开销,一年之后,要获得完全相同质量的模型,我们的花费可能只要 7 万美元。我敢打赌成本会下降 100 倍。但这并不重要,因为届时我必定已经在使用更优秀、能力强得多的模型去处理更复杂的任务了。
Anthropic 的 Mythos 虽然单价更贵,但它完成同一项任务所需消耗的 Token 数量却要少得多。因此在大多数任务中,使用 Mythos 实际花费的价格甚至比 Opus 4.6 还要便宜。因为它实在是太高效了,尽管它的每一个 Token 都要更聪明。是的,大模型实验室里那些天才们每天都在创造惊人的算法优化,使模型变得更加轻量与高效。
你在每一代模型上都能看到这一点。GPT-5 Nano(或者 5 Mini)在表现上超越了 GPT-4,而其成本只有后者的百分之一。这种事情一直在发生。我们习以为常,但本质上你不断地把门槛降低,然后不断扩大算力规模,你就能够持续获得指数级的巨大能力提升。
震撼的Anthropic Mythos:强大到令人恐惧
帕特里克: 我们上次见面时,Mythos 模型刚刚发布,或者相关的产品信息刚公布。你当时说它让你感到有一点害怕,因为它实在是太强大了。你是指什么?
戴兰: Anthropic 在 2024 和 2025 年的宏伟目标是:“到 2025 年底,我们要让模型达到 L4 级别软件工程师的能力。”他们在 Opus 4.6 上基本实现了这一目标。
而他们没有向外界公开透露的是,如果对比各项评测基准,Mythos 模型已经达到了 L6 级别的资深软件工程师水平。要知道,L4 只是刚入门的新手,而 L6 已经是团队里极具经验的绝对骨干了。Anthropic 内部透露,该模型在今年 2 月就已经在内部跑通了。
这意味着在短短两个月里,他们就完成了从 L4 到 L6 工程师的跨越。接下来会发生什么?回看模型的进化历程,我们能发现它正在加速。Anthropic 的发布周期缩短了,OpenAI 的发布周期也缩短了。为什么?
因为要打造一个更好的模型,你需要几个要素:首先是庞大的算力,算力极度昂贵且有着刚性的建设周期。我们追踪的算力供给在短期内基本是定死的。
也就是你已经签约锁定的那些卡,虽然期间可能会有延迟和调整,或者通过各种门路再挤出一点卡,但整体的大数是确定的。其次是顶尖的算法研究员,这些人的薪酬在数千万美元的量级。最后,是工程落地与执行(implementation)。
在历史上,将想法转化为工程落地是非常困难的。我有一个好点子,但我必须去写代码、跑通测试、解决工程冲突,这极其艰难。
而现在,点子依然很多,但工程落地的门槛被彻底抹平了。虽然这依然耗费算力,但执行起来变得极其容易。
那么,研究团队该如何决定去落地哪些点子?当你的工程落地变得极度轻松时,你就能够尝试和跑通多得多的点子,在技术跑步机上跑得越来越快。这同样适用于 AI 模型的研究本身。正因如此,你的模型发布周期能从过去的六个月骤降到如今的两个月。
同样地,如果我想建模和模拟美国境内的每一个发电厂、每一条输电线路,运行回归分析以洞察微观供需,我也能轻易办到。点子的获取成本是非常低的。
哪一个点子更有商业价值?哪一个点子能够证明你在 Token 上投入的巨额资金是合理的?答案就在于工程落地门槛的消失。
这是最核心的洞察。而如果工程落地的成本持续崩溃式下降——实际上我们现在正处于这一阶段的起点。Opus 4.7 仅仅发布了几个小时,我的团队在内部就已经兴奋坏了。这个世界将会变成什么样?这将是对实体经济产业秩序的彻底重组。在过去,最重要的事情是“工程执行极其困难,而点子极度廉价”;而现在,点子依然廉价且层出不穷,但“执行已经变得易如反掌”。因此,只有那些真正伟大的点子,才配得上用极低成本的 AI 去将其工程落地。
帕特里克: 那你刚才提到的“害怕”是真正的恐惧,还是仅仅因为它引入了太多难以应对的不确定性?
戴兰: 不确定性是显而易见的,但我认为它确实带来了一些担忧:人类社会将如何自我重组?当你的执行力不再是一道竞争壁垒时,你将如何在这个世界上立足?在那个时候,决定胜负的将是“选择正确想法让 AI 去执行的能力”,以及“推销该想法或变现 AI 执行成果的能力”。
你调动资本向那个方向倾斜的能力,才是真正的壁垒。回到刚才的观点,永远保持使用最先进模型的能力至关重要。那么,谁能获得最先进模型的首发使用权?Anthropic 正在研发的项目(我管它叫 Earwig 来调侃他们的人,实际上它叫 Glasswing)。
Anthropic 的 Glasswing 项目——即他们只向极少数特选企业提供 Mythos 以用于网络安全评估,这种模式整个未来将会成为常态。模型将不会再采取无差别的广泛释放。
虽然 OpenAI、Anthropic 都在标榜“我们要为全人类提供伟大的 AI”。但事实是,AI 实在是太该死地昂贵。谁来为数万亿美元的基础设施建设买单?只有那些手握资本、并能利用 AI 创造巨额经济回报的实体。
而且为了防止别人通过蒸馏(distillation)套取你的模型能力,你不会把最先进的模型公开发布。你只会将其开放给越来越少的核心大客户。
而这些核心客户如今也必须为 Token 额度进行激烈的争夺,除非 Anthropic 主动提高价格。哪怕他们将 Opus 的单价翻倍,我和大多数企业客户也依然会乖乖付钱。即使这样也无法解决他们目前面临的极其严峻的算力容量上限问题。
所以接下来的问题是:这一轮循环在何时才会结束?Token 的使用权以及由此带来的超额价值,将在极小的一撮归属企业之间发生前所未有的高度集中。我目前拿不到 Mythos。你知道谁有 Mythos 吗?是华尔街最顶尖的几家超级银行。
目前他们只被允许在网络安全防御中使用它,但完全可以预见——由于我们有 Anthropic 的企业级合同,且他们的团队跟我们关系还不错,他们或许会愿意为我们提供稍早一点的内测访问权限,或是为我们提供更高的频率额度。我希望事情能这样发展。如此一来,当我的竞争对手拿不到这些资源时,我就可以在商业上将他们彻底碾压。
比如 Citadel 创始人肯·格里芬(Ken Griffin),他极其富有且手眼通天。他完全可以跑去跟 OpenAI 或 Anthropic 签署一份协议,明确表示:“我要买断你们每年首发模型的前 100 亿美元的 Token 额度。”
“这样一来,不管你们何时发布新模型,我都要先消费完这 100 亿的 Token,然后你们才能把模型开放给其他人。”如果这成为现实,他在资本市场上就能将其他所有人斩尽杀绝。
这只是其中一个极端的例子。它可以发生在任何行业,比如 Anthropic 所担忧的网络安全领域——“哦,现在我能轻易黑掉任何对手”。或者是像我所处的行业这样,将竞争对手彻底抹去。这种影响是全方位的。
我们不知道这些模型究竟能做到什么。Anthropic 自己不知道,没有任何人知道。
这完全取决于最终用户如何调遣 Token,去探索他们所能构建和想象出的极限。这对于人类社会而言是极具生产力和令人振奋的,但随之而来的资源与生产资料的超级集中,我们又该如何面对?
机器人与实体经济的需求
帕特里克: 可以推断,在目前这个阶段,机器人(robotics)所消耗的 Token 相比其他领域几乎可以忽略不计。你怎么看?这是否会成为拉动需求的第二条陡峭增长曲线?毕竟在方圆一英里的范围内,每天都有新的初创公司尝试在机器人领域搞出点名堂。
戴兰: 目前行业内有一个“仅限软件的奇点”(software-only singularity)概念。也就是说,人类实现了 AI 的奇点,但它仅存在于软件层面。那么物理世界的其他部分呢?我们能看到整个世界其实是围绕着物理硬件(hardware)而不是软件来运转的。
这恰恰是我认为软件奇点只是一个短暂过渡、而无法代表全部未来的原因。软件是非常容易解决的,而制造机器人制造之所以极度困难,是因为对微控制器(microcontrollers)和执行器(actuators)的编程与精准控制是极其复杂的。
目前大模型在机器人领域的瓶颈在于其学习效率极度低下。我们目前之所以能看到软件 AI 的强大,是因为我们能喂给它海量的人类互联网数据,以此让它在某些领域超越我们。
而目前在机器人领域非常火热的 VLA 模型(视觉-语言-动作模型),或许并不是最终能够大规模落地的方案。它们的“数据效率”太低了,而我们无法为它们提供如此庞大且高质的真实物理世界动作数据。
人类婴儿必然会找到某种大规模预训练机器人模型的方法。就像人类婴儿一样,通过每天观察和探索外部世界来获取数据。人类之所以如此聪明,关键在于我们拥有极高的“样本效率”(sample efficiency)——看一两个例子,就能学会。
所以,一旦我们在软件端消除了工程执行的门槛,开发这类机器人模型就会变得非常便宜,所有人都能开始尝试构建真正实用的机器人。我认为在未来 6 到 18 个月内,我们将在机器人领域看到真正的技术突破,实现“少样本学习”(few-shot learning)。也就是说,会存在一个通用的预训练机器人模型,你买回机器人后,只需给它演示两三次,它就能完美学会该动作。
目前,有很多公司在做用于广告或简单展示的机器人,比如折折衣服之类。但未来的应用会变得极其垂直。比如只专门负责擦黑板的机器人,并以租赁的形式提供服务。或者是你下载到你的标准机器人硬件上的一个专门的模型算法包。
无论如何,这都将带来物理实体商品产出的爆发式增长和剧烈的通缩效应,这会推动 Token 的需求继续疯狂飙升。我个人认为 Token 的需求永远不会慢下来。
帕特里克: 从 Mythos 模型的设计和训练成果中,你是否对扩展定律(scaling laws)有了新的发现?
戴兰: Mythos 的模型体量比此前的所有模型都要庞大得多。是的,它是一个大得多的模型,它具体跑在哪一款芯片上其实并不重要。
核心在于规模(scale)。显然,10 万张 Blackwell 显卡所能提供的算力,相当于前几代几十万张卡的合力。谷歌的 TPU 以及亚马逊的 Trainium 都有各自的发布节奏。
所以算力的扩展并不是完全同步的,但核心结论是明确的:Mythos 是一个尺寸大得多的模型。它证明了扩展定律(scaling laws)依然完全奏效。关于它的一切都在表明这一历史趋势仍在延续——往模型中投入越多的算力,模型就会变得越好。
而在这一过程中,我们不仅在通过堆砌算力让模型变得更强大,算法研究员们还在不断取得“算力效率”(compute efficiency)层面的突破。这意味着,如果我们想在每两个月或每六个月达到某个特定的模型能力门槛,实现该目标所需的训练与推理成本实际上是在急剧下降的。但同时,如果你选择把算力规模成倍放大,你就能获得一个更加震撼的能力跃升。
所以,这证明扩展定律依然有效。谷歌和 Anthropic 在训练端并不极度依赖 NVIDIA 的 GPU(他们有自研的芯片),而 OpenAI 则将开启他们新一代模型的发布。我认为 OpenAI 正在采取一种更稳健、循序渐进的步骤来推动模型扩展。
而 Anthropic 显然在尝试一次史诗级的跨越。我们今年将会看到越来越强大的模型粉墨登场,发布的节奏只会越来越快。
每一家大模型实验室都会被买爆
帕特里克: 我们聊了这么久,居然几乎没有提到 OpenAI,这在以前的讨论里是难以想象的。
戴兰: 这正是最有趣的地方。现在每个人都在想:“这么说,Anthropic 已经彻底赢了,对吧?”他们在今年 2 月就跑通了 Mythos,由于根本不需要,他们甚至没有选择对外发布它,因为他们的 Token 早就供不应求了。他们的年化收入每个月都在疯狂增加。
而且他们在 OpenAI 传闻中的 Spud模型发布之前就推出了 Opus 4.7。所以显然 Anthropic 处于绝对的领先地位,而 OpenAI 已经彻底落后了。
但有趣的是,由于 Anthropic 的算力容量面临刚性的瓶颈,他们能扩张的速度是有上限的。此前,达里奥(Dario Amodei,Anthropic 联合创始人)还曾嘲笑过 OpenAI 在购买算力上过于激进,认为 Anthropic 的扩展方式更稳健。而现在 Anthropic 可能会感叹:“该死,要是我们手头有更多算力就好了。”
OpenAI 的资金状况完全支撑得起他们的算力账单。事实上,除了向微软、甲骨文(Oracle)、CoreWeave 以及软银等巨头订购了惊人量级的算力之外,他们还通过新一轮融资筹集了巨额的增量资金,甚至包括向亚马逊购买 Trainium 算力支持。他们已经在算力联通上做到了极致。当然,他们知道自己还需要更多。
但是,让我们抛开模型能力的不断进化,仅仅去思考这门技术的市场渗透(diffusion)。你我可能会在模型发布的第一天就立刻去使用它,但其他传统行业需要时间去消化,人们需要时间去学习。
而且,那种被 AI 震撼以至完全上头(psychosis)的觉醒时刻,并不会同时发生到所有人身上。所以如果以 Opus 4.6 级别的模型为例,即使模型能力不再提升,到今年年底,仅靠这一代模型的渗透,整个实体经济所能消费的 Token 年化规模就能达到 1000 亿美元。我认为这是一个非常合理的推断,而目前这个数字是 400 亿。
帕特里克: 这只是一个线性外推。
戴兰: 这只是一个线性外推,甚至还没有引入指数级的能力跨越。要实现指数级的爆发,你需要更强大的模型。而 Anthropic 将没有足够的算力来支撑如此庞大的推理流量。因此,OpenAI 和谷歌很快就会赶上这个能力梯队。不管谁是下一个达到这一门槛的,Anthropic 也许能继续维持 70% 以上的暴利毛利率。
但如果 OpenAI 下一个赶上,他们可能愿意降价以 50% 的毛利率来抢占市场,他们同样会迎来被完全买爆的增量需求。而且,大概率他们届时也依然没有足够的算力来满足所有用户的疯狂渴望。如果这个世界拥有充足的算力,仅靠 Mythos 这一款模型,就能创造出 5000 亿美元的惊人营收。
目前市场对于 Token 的渴望是如此贪婪,而我们制造算力的速度又是如此受限。我们能看到 H100 等显卡在二手租赁市场上的租金再度飙升。这些显卡的生命周期被一再延长。
显而易见,即使是第二梯队的模型实验室,其 Token 产能也会被市场一扫而空,更不用说第一梯队的巨头了。第一梯队会有更好的毛利表现,但第二梯队同样会被买爆。甚至连第三梯队也会处于接近售罄的状态。
最顶尖模型所能释放的经济价值的增长速度,远远超过了我们通过建设基础设施去供给这些 Token 的速度。因此,这个供需鸿沟将继续扩大,大模型实验室的毛利率将继续膨胀。除非处于硬件供应链和基础设施端的厂商反应过来:“等等,凭什么利润全被你们拿走了?我们要把我们的硬件价格也提上去。”
帕特里克: 可以肯定的是,你对目前需求端的评估表明它完全处于爆发状态,至少在 SemiAnalysis 自身的案例里是这样的。更广泛地看——你把它称为“AI 狂热症”,当人们经历并意识到他们能做到什么,且工程执行难度彻底消失之后,我的 Token 支出在几周内也彻底爆表了。所以这个需求评估听起来非常扎实。需求端我们还有什么遗漏的吗?
戴兰: 如果你不去消费更多的 Token,你将永远无法脱离底层的“数字无产阶级”(permanent underclass)。你要么消费更多的 Token 并在其上创造出远超 Token 成本的商业价值。
很多人在使用 AI 时表现得很懒惰和无趣。比如:“哦,那我现在每天只需工作一小时,而不是八小时,其余时间让 AI 帮我做掉。”这是一种非常无趣的做法。真正酷的做法是:“我依然每天工作八小时,但在 AI 的加持下我干了八倍的活,从而赚取五倍于过去的收入。”
显然,如果你只是做一份普通的打工工作,你是无法实现这一点的。这是针对那些打几份工的人、创业者以及各类销售和商业运作人员而言的。这就是你我正在做的事情——我们是在“折腾”和“搞事情”(hustling)。
在 AI 彻底普及并沦为平庸的社会基础设施(table stakes)之前,迅速利用它去创造并捕获超额的商业价值。因为目前它依然不是基础设施。所以,如果你不去使用更多的 Token、不去利用它们创造价值,并牢牢捕获住这些价值,你将面临三个层面的脱节:第一是无法使用更多的 Token;第二是无法将 Token 转化为价值;第三是无法在创造出的价值中完成商业变现。
如果你无法在这三点上建立自己的闭环,随着模型能力继续飙升以及生产资料的进一步超级集中,你将永远沦为这一轮科技浪潮下的底层附庸。
算力供应链的扩张与瓶颈
帕特里克: 好的,让我们来聊聊供给端。在这个需求需求曲线爆发的时刻,供给整个算力堆栈以输出这些 Token 的硬件供应链正在发生什么变化?
戴兰: 随着需求飙升,供给端的一切价格都在水涨船高。不管是最终的显卡设备,其单价都在上扬,其使用寿命也在不断被拉长。
帕特里克: H100 显卡的价格走势看起来就是这样。
戴兰: 是的,没错。之前有人争论说 GPU 的折旧寿命不到五年,这完全是无稽之谈。我们看到许多算力集群正在重新签约。使用了三四年的 Hopper 显卡集群重新续签了三到四年的合同。一些 A100 集群也在续签两年的合同。
所以显卡的实际寿命显然不是五年,甚至可能是七年或八年。我们现在还说不准,我们需要看看 Hopper 最终的服役情况,但它绝对不止五年。由于使用年限的拉长以及续签价格的上调,算力集群提供商的实际利润率并不是此前预计的 35%,而是要高得多。
因此,云服务厂商(IaaS)的利润率正在全面膨胀。在硬件层面上,NVIDIA 依然维持着 75% 左右的极高毛利率,利润极度丰厚。
当我们沿着供应链向下看,内存(memory)板块的毛利已经飙升到了天际。光模块、逻辑芯片板块收到了海量的预付款,利润率也在逐步上升。更准确地说,像英伟达这样设计芯片的公司正在向上游支付天量级别的预付款。因此,哪怕毛利率没有变动,其资金使用效率(Return on Invested Capital)也因为折旧和现金流的改善而大幅提升。
你在整个供应链上都能看到类似的景象。ASML 已经被订购一空,他们正催促卡尔蔡司(Carl Zeiss,提供核心光学镜头)以更快的速度扩产。供应链上的每一个节点要么产能售罄、价格飞涨,要么收到了海量的预付款,从而降低了其资本开支的沉没风险。
甚至到了一些更传统的环节——制造印制电路板(PCB)需要铜箔,而由于产能售罄,人们必须为购买铜箔而排队支付预付款。只要与算力沾边且产能紧缺的细分环节,大家都在为了锁定未来数年的供给而拼死竞争。
帕特里克: 你认为最关键的瓶颈是什么?在经济史上,当面临这种极端的需求爆发时,供给通常会迅速重新调整并扩大以迎合需求。但在当前这个时刻,供给通常似乎完全无法跟上。
虽然行业内有一句名言:“每一次严重的短缺,其后必定伴随一次灾难性的产能过剩。”但在目前这个阶段,你认为最有趣的瓶颈分布在哪里?
戴兰: 供应链通常反应敏捷。但这次的独特之处在于,我们的半导体供应链比人类历史上的任何时候都要更加庞大和复杂。我们正在制造的东西也面临着前所未有的工程难度,因此扩产的筹备期(lead times)被拉得极长。
在其他行业我们也见过 18 个月级别的 lead times。但问题是,在半导体领域,建设新增产能需要耗费数年的时间。内存就是典型的例子。内存的年产能量只能维持在低两位数(10% - 30%)的温和增长,闪存(NAND)甚至更低,DRAM 稍微高一点。
即便内存厂商在 2025 年底就收到了强烈的扩产信号,但由于建厂周期限制,这部分新增的产能在 2027 年底甚至 2028 年之前根本无法实质性地释放出来。这是一个非常独特的物理瓶颈。
即使他们想以最快的速度扩产,新增产能也得等到 2027 年底或 2028 年。结果就是,内存的价格直接冲上了天。而且我敢断言,内存(特别是 DRAM)的价格还会在此基础上再翻两到三倍。很多人觉得关于“内存短缺”的逻辑已经被市场充分定价了。
但他们根本不明白,DRAM 价格还要暴涨数倍,因为算力对高带宽内存的需求量是如此庞大。
内存厂商唯一的选择就是剥夺非 AI 领域的内存产能,而资本主义市场中实现这一点的唯一手段,就是通过极高的价格来进行“需求消灭”(demand destruction)。我们不可能采取行政配给制。
所以这必然会发生,内存厂商的利润率将继续上升。逻辑芯片的晶圆代工也面临着极大的产能上限。
台积电在最近的财报中不断调高其资本开支(CapEx)。本质上,他们建一个 Fab 厂需要耗费大量的时间。
他们已经在想方设法压榨每一个现有 Fab 厂的全部产出。但由于他们“太好心了”,他们并没有以同样疯狂的幅度去上调代工价格。他们只进行了个位数百分比的涨价,而不是像内存巨头那样直接翻几倍。所以你面临的格局是,台积电是一家伟大的公司,但他们真的能榨取到代工环节创造的全部经济价值吗?
我刚才提到了铜箔、用于 PCB 的玻璃纤维、激光器等。这些是众所周知的垂直供应链,但目前极其紧俏。而在最上游,半导体晶圆制造设备(WFE)供应链虽然已经涨了很多,但依然被市场严重低估了。
台积电今年的资本开支计划是 560 亿美元。我们自 1 月以来的追踪数据是 574 亿美元,并且由于我们发现他们能以各种门路增加装机量,这一数字或许还会被继续上调。但大家没有聚焦的问题是:这对于明年意味着什么?对于后年意味着什么?事实是,三年之内,台积电一年的资本开支将达到 1000 亿美元。台积电或许会在 2028 年花出 1000 亿美元的 CapEx。这在目前是人们完全无法想象的数字。
但这意味着什么?对于其下游的半导体设备供应商,如 Lam Research(泛林集团)、Applied Materials(应用材料)或 ASML,以及它们更下游的元器件供应商(如 MKSI 等公司),意味着什么?
帕特里克: 所有人都必须拼命跟上这个节奏。
戴兰: 这种牛鞭效应(bullwhip effect)会越抽越猛烈。如果台积电真的在 2028 年支出 1000 亿美元,这将是一场史诗级的设备大缺货。这在目前看来是极其疯狂的,但却是一个实实在在的、极大几率发生的走向。
CPU与定制芯片的现状
帕特里克: 在 GPU 占据绝对主导地位的芯片生态中,其他芯片呢?比如 CPU 或者定制芯片(ASIC),在 NVIDIA 的绝对统治之下,它们迎来了怎样的机遇,或者扮演了怎样的瓶颈角色?
戴兰: 定制芯片(ASIC)当然在爆发式增长,但我打算跳过 AI 显卡本身,来聊聊其他被忽视的芯片。我们最近做了一个关于现场可编程门阵列(FPGA)的研究,结果发现,在下一代 AI 服务器机架中,每一个机架需要配置多达 120 颗 FPGA 芯片。这对于相关的 FPGA 厂商意味着巨大的增长机会。
在 CPU 方面,所有的大模型强化学习(RL)环境,加上你我用 AI 制造出来的、运行在 Vercel 实例或 AWS 容器里的天量“垃圾代码”(slop code),全部都需要运行在 CPU 上。因此,CPU 目前正处于全面售罄的状态,需求呈爆炸式增长。
帕特里克: 人们应该如何去理解 CPU 在这其中所扮演的角色?
戴兰: 需要大量 CPU 的核心原因有两个。首先,当你在跑强化学习(RL)时,CPU 起到了至关重要的支撑作用。在过去,你把全互联网的数据灌入模型,进行训练,它就会吐出结果。
而现在的做法是,在完成前期的预训练后,你把模型放入一个模拟环境(environment)中。在这个环境里,模型被要求去解决各种问题。它会进行成百上千次的尝试,探索出不同的解决方案路径。
最后,在这个环境里会有一个专门的评估程序,来判定模型的尝试是否成功,并对其进行评分。这些交互环境可以非常简单(比如检查文本输出的格式是否正确),也可以非常复杂。
如今大家正在探索极具工程难度的复杂环境。例如:“打开这个本地代码文件,对其进行修改、更新,将其部署并提交到这个特定网页;或者打开西门子(Siemens)的物理仿真软件,对这个 CAD 三维模型进行修改。”这些环境的运转全部必须跑在 CPU 上,它们无法运行在 GPU 或 AI 定制芯片上。
定制芯片只负责运行神经网络本身,接收来自环境的输入,跑出模型的推理,模型会针对不同的尝试方向吐出海量的备选执行轨迹(trajectories)。接着,这些执行轨迹将被送去评分。那些被判定为成功的轨迹,将被用来更新模型权重,不断迭代。
所以在这个过程中,CPU 是不可替代的核心算力。其次,一旦你训练出了这些伟大的模型并将其部署,这些模型生成的代码和应用程序需要真正跑在服务端的 CPU 实例上,才能呈递给最终用户。所以,这也是 CPU 需求暴涨、面临大面积供不应求的另一个关键领域。
帕特里克: 作为致力于成为全球在 AI 算力供需轨迹上最博学的人,目前还有什么事情是你非常渴望了解但尚未看透的?
戴兰: 我认为对我和对所有人而言,目前最难看透的领域是“Token 经济学”——也就是 Token 消费的深层经济学规律。我们对运行算力基础设施的成本、Token 的出厂成本、模型的研发费用以及模型实验室的利润率有着极其精确且自信的洞察。但“Token 的实际消费与行业渗透速度”,是极难去建模预测的。
在今年 1 月,我们对 2 月的需求做出了我们认为非常疯狂的乐观估计,结果 Anthropic 轻易就把它踩在了脚底下。我们该如何校准我们的预测模型?数据源在哪里?在 2 月,我们对 3 月的需求做出了让别人直呼“戴兰你疯了”的假设。
然而他们再次把我们的预期踩碎了。当大家看到 Anthropic 达到了年化数百亿美金的营收规模时,都会直呼:“这怎么可能?谁在消费这天量的 Token?他们用它来干什么?他们构建了什么?”
而更重要的问题是,利用这些 Token 构建出来的应用,是如何向更广阔的实体经济渗透的?它们创造了怎样的财富和生产力?
因为这些实际价值是无法被计入现有的 GDP 核算体系之内的。我消费的 Token 变成了 SemiAnalysis 质量更高、深度更强的深度分析报告,然后我们以低于过去传统咨询服务的价格将其出售。
这就意味着,这些高价值的行业洞察正在以极低的门槛在经济体中流转,让芯片公司、数据中心运营商以及云计算巨头能够做出更加微观、避免重大失误的投资决策。
这个决策的溢价该如何被定义?它对实体经济起到了怎样的推动作用?从感官体验上来看,它极其惊人。但在传统的统计学上,这就是消失的“幽灵 GDP”。我们的 GDP 统计指标无法反映 SemiAnalysis 所创造的真正社会价值,因为我们的名义售价非常低。对于帕特里克你所做的事,也是一样的道理。利用 Token 创造出的这些价值,其长期的乘数效应是极其难以用简单的公式去量化和衡量的。
这就是真正的挑战。它无法被精确核算。我们在供给端有着极强的视界,我们在需求端的宏观信号上也有着清晰的判断,但“Token 在各行各业所创造的真实经济价值”,是目前最难解的谜题。
AI面临的公众舆论风暴
帕特里克: 我希望我们每隔三个月就能坐下来聊一次,因为这一切变化得实在是太快了。展望未来,三个月后当我们再次在旧金山碰面时,你预期会发生什么?
戴兰: 大规模的社会抗议。
帕特里克: 真的吗?
戴兰: 是的。我认为针对 Anthropic 和 OpenAI 的大规模社会抗议即将到来。普通大众其实憎恨 AI。AI 在公众眼中的受欢迎程度甚至低于移民海关执法局(ICE),也低于声名狼藉的政客。
随着 Anthropic 这样的巨头敛去天量级别的利润,这会开始对下游产业产生实质性的裁员与变革压力。普通人对 AI 的恐惧会越来越深。他们会把自身的困境以及长久以来积累的各种深层次社会矛盾,全部归咎于 AI。
这些矛盾会彻底沸腾,并被宣泄到 AI 身上。很可能会有政客或社会意见领袖(influencers)站出来,将 AI 妖魔化,作为攻击对手或动员民众的武器。如果你去看看新闻报道下面的评论区,当萨姆·奥特曼(Sam Altman,OpenAI 首席执行官)的住宅在两周内被扔了两次莫洛托夫鸡尾酒(燃烧瓶)时,网民们全在拍手叫好。
而这仅仅是个开始。所以我认为在三个月内,我们就会看到席卷全美的大规模反 AI 示威游行。
帕特里克: 那这一抗议潮的制衡力量是什么?AI 行业应当如何去防范和化解这种敌意?
戴兰: 首先,萨姆·奥特曼和达里奥(Dario Amodei)必须停止公开露面做采访了。他们实在是太缺乏亲和力(uncharismatic)了。我简直不理解他们在想什么。他们做的每一次采访,都只会让普通大众更加厌恶他们。萨姆去上塔克·卡尔森(Tucker Carlson)的节目,大概直接让所有保守派网民都开始痛恨 OpenAI。我猜是这样的。达里奥也是同理。我认为这是当务之急。
第二,他们需要开始向社会展示 AI 能做出的那些温暖人心、治愈社会以及改善民生的善行。第三,他们必须停止天天地在媒体上鼓吹“AI 的强大能力即将彻底颠覆人类世界”。因为普通大众对这种强大的能力没有任何利益关联和掌控感,这只会引起他们无尽的恐慌。普通人这辈子不会认识任何一个 Anthropic 或 OpenAI 的员工。
在普通人的视角里,这群人跟他们完全是脱节的。大众只是将他们视为一个由 5000 个精英组成的、躲在幕后阴谋篡夺全人类工作并撕裂社会的狡黠集团(sneaky cabal)。这就是大众对他们的真实认知。
而且他们还把这群人视为不断拿投资人的钱去建庞大数据中心、建污染环境的发电厂、抢夺水资源与电力的罪魁祸首。大众根本不明白这背后真正的技术生产力演进。
所以,AI 巨头必须停止描绘那些虚无缥缈的未来宏图,多去谈论眼前——谈论 AI 目前是如何为普通人的生活带来温暖和改变的。我认为大模型实验室亟需进行一场彻底的公关架构重组和品牌形象重塑。
帕特里克: 这实在太有趣了。我非常喜欢和你讨论这些。感谢你抽空前来。
戴兰: 太棒了,非常感谢。