Frontier · AI as Normal Technology

向上进入应用层:AI逃离商品化陷阱为何可能导致企业锁定

Arvind Narayanan 和 Akash Kapur 认为,人工智能实验室可以通过提升软件堆栈来逃避低利润模型竞争,同时会产生更高的转换成本和企业锁定的新风险。

本文由英文原文翻译。

作者:Arvind Narayanan 和 Akash Kapur

我们在本文中的目标是超越关于人工智能是否是泡沫的争论。我们通过两种方式做到这一点:将当前的财务状况与谁从长远来看获得价值的问题明确分开,并认识到实验室不仅限于模型提供者。他们可以向上迁移并且已经在积极地这样做。这可能会让他们摆脱商品陷阱,但也会引发新的担忧——客户锁定和竞争减少。

Akash Kapur 是普林斯顿大学的访问学者和 New America 的高级研究员。他与 Sayash Kapoor 没有关系。

随着领先的人工智能公司继续大规模投资产能并竞相进行重磅IPO,他们的商业模式仍然存在严重问题。这些公司——以及由芯片制造商、超大规模企业和依赖它们的基础设施合作伙伴组成的庞大生态系统——将如何在 2030 年代初期收回预计在人工智能基础设施方面的投资4-8 万亿美元

当前的讨论分为批评者和支持者。批评者指出,亏损不断增加、资本支出与收入之间存在差距,以及有关领先实验室大量烧钱的报道。支持者提到了快速的收入增长、企业采用以及Anthropic第一个盈利季度等里程碑。每个营地都有一个有效点。但两者都看错了地方——同样的季度报表,同样对不断变化的行业的短期看法。

近几个月来,我们一直在思考人工智能业务的本质和可持续性,但我们的观点与大多数现有评论不同。如今,人工智能公司的大部分收入都是通过对推理收费来赚取的,但前沿推理的条件使得这项业务异常难以维持。模型基本上没有差异,领先的实验室以相似的资本结构运作,转换成本较低,并且价格可以自由调整。所有这些似乎都为商品陷阱创造了条件,这将对建立高利润甚至盈利业务的任务构成真正的挑战。

同时,我们认为该行业仍处于转型阶段,成熟后其结构将会截然不同。根据历史证据和经济理论,我们认为这种均衡中的竞争可能会将模型推理的价格推向生产代币的边际成本,从而在模型层留下很少的持久利润空间。然而,这并不意味着人工智能业务本质上是不可行的。同样的分析为人工智能实验室指明了前进的道路,并引出了我们论文的中心论点:

实验室实现持久盈利的最有可能的途径不是通过迄今为止占据大部分投资的基础层(芯片、数据中心、模型),而是通过垂直整合、嵌入式企业部署以及刻意构建转换成本和其他“护城河”的组合,在更高的堆栈上进行。

实验室通过提升堆栈来获取价值的策略已经开始,其中许多策略借鉴了企业软件的剧本。除了当前人工智能生态系统的可持续性之外,它们还提出了更广泛的社会关注问题——关于竞争、创新以及经济和政治权力的总体分配。迄今为止,关于人工智能的公众讨论一直存在着一种有些自相矛盾的二分法:对垄断集中和失控的市场力量的焦虑,但低转换成本和相对可互换模型的现实似乎掩盖了这些担忧。但如果我们认为实验室将越来越向更高层次发展是正确的,那么现在就值得认真对待对集中度和竞争的担忧,而不是在锁定效应开始显现之后。我们在结论中回到了这些更广泛的问题,并在即将发表的论文中更深入地探讨了本文涵盖的许多主题。

历史分析:基础设施层绝大多数未能捕获它所创造的价值

人工智能作为常规技术 框架致力于在适用的情况下从过去的变革性技术中吸取经验教训。我们认为,人工智能也受到与投资、竞争和价值获取相关的许多相同动态的影响,这些动态塑造了之前的技术创新浪潮。因此,作为我们研究的一部分,我们通过更广泛的历史视角研究了人工智能价值捕获的难题,以及实验室可能对此做出的反应。

我们研究了资本密集型基础设施行业的六个历史实例(铁路、电力、电信和光纤、云计算、半导体制造和商业航空)。我们认为,今天的人工智能具有许多类似基础设施的特征:大量的资本需求;边际成本低;一种商品产品,在某种程度上与最终创造价值的应用程序脱钩。这使得基础设施成为众所周知的艰难行业。

但与此同时,人工智能也是软件,而软件业务历来利润丰厚,利润率极高。该行业有软件利润的野心。因此,我们还调查了软件即服务的增值和锁定策略,并分析了人工智能是否可以复制这些策略。我们的论点是,人工智能公司的可持续性和价值获取在很大程度上取决于它们能否成功地从第一组“基础设施”属性迁移到第二组“企业软件”属性。

总的来说,我们从历史分析中确定了人工智能的三个指导性教训。首先,基础设施提供商很少捕获他们创造的价值。在铁路、电力、电信和航空领域,建设产能的公司最终都受到竞争、监管或商品化,利润微薄。在许多情况下,它们被彻底摧毁。在 20 世纪 90 年代末的电信和光纤建设期间,容量在七年内爆炸了 186,000 倍,价格暴跌,大约 2 万亿美元的市值被抹去。基础设施产生的价值主要归于建立在基础设施之上的行业和应用程序。八年来,商业航空已经摧毁了投资者的资本,因为典型的净利润率为 2-4%,往往低于资本成本——即使各种企业都受益于全球化经济。

我们认为,人工智能,至少以其目前的超大规模形式,有可能陷入困扰许多先前基础设施建设者的相同商品陷阱。 Carlota Perez 提出了一个悖论现象,即在“安装期”期间创建基础设施的建设者很少能够生存下来并获取其创造的价值。

其次,企业软件不受这种模式的影响,它通过一组特定的、可重复的机制逃脱了陷阱。基础设施公司陷入困境,而企业软件几十年来一直保持 75% 或更高 的毛利率。它通过结合基础设施企业缺乏的三个属性来实现这一点:零边际复制成本、深度转换成本以及允许固定建设成本在几十年内摊销的非短暂价值。人工智能实验室的锁定策略最好理解为尝试将软件的这些结构属性导入人工智能。

最后,两个部分例外 揭示了人工智能如何才能战胜历史机遇。云计算和芯片制造这两项基础设施业务已经成功摆脱了商品陷阱。云获得了类似软件的属性(托管服务锁定、出口费用、承诺支出协议),而台积电在领先的制造领域取得了近乎垄断的地位。这些案例很重要,因为它们表明了摆脱商品陷阱实际上需要什么。资本密集型行业可以维持持久的利润,但只能通过成为功能性软件或实现市场集中化来实现。

为什么我们认为对模型推理收费无法收回基础设施投资

如前所述,人工智能建设的批评者指出实验室当前的亏损和早期利润的推动,但两者都犯了同样的错误:将过渡期误认为是均衡。我们仍处于人工智能经济转型的早期阶段,天真的推断是有缺陷的。在均衡状态下,供需双方看起来都将与现在有很大不同。

到目前为止,人工智能实验室命运波动的几个例子:大规模的投机性基础设施建设,可以说超出了需求; Deepseek 时刻,开放重量模型几乎赶上了前沿;随着公司采用人工智能代理,需求激增,但往往伴随着代币排行榜等非理性和浪费的做法,导致所谓的代币稀缺时代;最近,随着公司重新考虑在前沿模型上的支出,重新推动了有竞争力的开源生态系统。

这些起起落落与上述历史案例研究有很多相似之处。铁路最初出现了投机狂潮(1840 年代英国的铁路热潮)。在美国,随着时间的推移,需求超过了运力,导致 1860 年铁路资本的直接和间接回报估计达到每年 15%——在那个时代是巨大的。但随着网络的成熟,运力赶不上需求,竞争挤压了利润,许多铁路公司破产了。

因此,为了更好地预测实验室的长期前景,摆脱财务(和叙述)的年度和季度波动,并以经济理论为基础进行分析是有帮助的。一个关键概念是伯特兰悖论:这表明,当公司出售同质产品时(前沿模型推理),价格竞争将迫使他们以生产它的边际成本出售每个单位(代币)。

理论分析很重要,因为历史记录对人工智能行业命运的预测效果如何这一问题存在争议。例如,我们的同事 Mihir Kshirsagar 将监管视为铁路、电力和电信公司无法提取其基础设施产生的盈余的主要原因,而不是将其视为其经济的固有结果。因此,该理论为我们提供了预期利润率受到挤压的额外理由。尽管理论上的悖论在实践中很容易逃脱,但我们相信模型推理包含了产生悖论的条件的异常纯粹的版本:

  • 模型基本上没有差异。至少三个公司,OpenAI、Anthropic 和 Google 已经成功地保持在前沿,并生产出行为和性能彼此相似的模型。此外,对于越来越多的用例,前沿性能并不是必需的,开放权重模型足够好。此外,客户很容易观察到或感知到模型的近似等效性,因为定期评估模型的基准有数百个,而前沿模型都倾向于聚集在顶部附近。

    与另一个行业形成鲜明对比的是,苹果公司通过逃避伯特兰竞争的这一方面来维持高利润率。它抵制在客观可观察的性能维度(千兆赫、百万像素)上进行竞争,而是宣传成果和不可言喻的品质(“它就是有效”),并创造强大的品牌差异化。

  • 供应商都有相似的资本成本。人工智能知识传播迅速;模型开发的主要范式——模型缩放、推理缩放、强化学习等等——都几乎同步进行。因此,为了以给定的输出质量生产代币,实验室都在培训上花费了相似的金额。在假设的未来,前沿移动速度不会那么快,成本将由推理成本主导,而推理成本往往比训练成本更加相似。

  • 缺乏地域差异。 就铁路而言,当地垄断企业和自有产能的拼凑,为防止利润压缩提供了一定的防御措施。人工智能推理业务缺乏这种差异化,企业可以有效地服务于整个市场。虽然目前可以说存在代币容量限制,但我们预计这只是暂时的。

  • 价格可以自由更改,没有串通。铁路和公用事业公司能够在历史上的某些时刻默契或明确地勾结以保持高价格。但对于人工智能模型来说,这种情况极不可能发生,因为来自次前沿模型的竞争非常激烈。

  • 转换成本极低。 即使是迁移 API 的摩擦也可以通过与提供商无关的路由 工具层来很大程度上消除。1

对这一切的一个可能的反应是,利润被挤压多少并不重要,因为人工智能公司只会通过数量来弥补。但数字并不能解决问题。如果我们假设净利润率为 5%(远高于航空公司),并且需要在 5 年内收回上述 4T 至 8T 美元的投资,那么我们最终的年收入要求为 16 至 32T 美元,其中较高的一端是当今世界 GDP 的四分之一。

以历史和经济理论为基础,从更长远的角度出发,我们可以忽略其他分析师倾向于批判性地评价的几个因素。目前,我们正处于一个大规模、资本密集型培训继续产生更好模型的时期。这迫使实验室继续使用升级跑步机,将收入再投资于培训(然后是一些培训),并承担越来越高的投资。当跑步机变慢时,2 业务将达到一个新的平衡阶段,这可能与今天截然不同。在这种情况下,目前主导辩论的三个因素将远没有现在看起来那么重要。

首先是效率提高推动的代币价格下跌,批评者将此视为逐底竞争的证据,这将缩小蛋糕的大小。我们认为,虽然代币价格确实在迅速下跌(而且这种趋势可能会持续下去),但这对实验室来说不一定是个问题。根据需求曲线的形状,释放需求不仅可以弥补价格下跌,即所谓的杰文斯悖论,即效率提高会导致资源消耗增加(而不是减少)。

第二个是代币稀缺性,支持者将其视为实验室定价能力的证据。然而,任何稀缺都可能是暂时的现象,可以通过基础设施投资和算法改进的结合来缓解或消除。因此,代币稀缺不太可能让实验室增加利润。

主导当前讨论的第三个因素是支付意愿。批评者有时预测,当实验室结束其补贴的、低于成本的订阅定价时,需求将会消失。但这将支付意愿视为固定数量,可以从今天开始推断。从长远来看,我们预计人工智能将成为大多数知识工作的重要组成部分,并且该技术将像工业革命一样具有变革性。在这种规模的转型中,支付意愿可能是巨大的。

换句话说,我们必须区分“价值创造”和“价值获取”。我们预计“创造”的价值将大得难以想象。对于实验室来说,核心的——甚至可能是存在的——问题是他们是否能够“捕获”这一价值的一小部分。人工智能为公司创造的价值中,该公司愿意向人工智能供应商支付费用的比例是多少?这不是一些自由浮动的、外生确定的数字。这很大程度上取决于人工智能实验室能够在多大程度上摆脱商品陷阱。

正如我们下面所讨论的,摆脱商品陷阱的最可靠方法是向经济价值链的下游移动(就人工智能而言,这意味着“向上移动”)。从销售物理基础设施或产品到包含服务的捆绑销售有时称为“服务化”。例如,随着硬件商品化,IBM 成功转型为服务公司,最终将其 PC 部门全部出售给联想。电信公司也为避免成为“哑管道”做出了持续、艰苦的努力,但没有成功。相反,价值被利用基础设施的应用程序捕获,从而导致了大型科技公司的崛起。我们认为,实验室现在面临着大致相同的分叉:在模型之上的层中获取价值,或者看着其他人在他们建造和付费的基础设施之上创建利润丰厚的业务。

实验室如何应对

总结我们迄今为止的论点,我们的历史分析和经济理论表明,摆脱商品陷阱的可行途径只有两条:建立对市场的类似垄断的控制,或者在堆栈的更高层获取价值,这通常伴随着转换成本的增加。

我们相信第一条路线不太可能出现,并且前沿将保持竞争力。人工智能例外论的支持者可能不同意,他们预测了一种史无前例的发展:能力的不连续性如此巨大,以至于完全重塑了竞争格局。在这种“硬起飞”场景中,一个或多个实验室实现了递归的自我改进,使得当前的经济状况在很大程度上变得无关紧要。

在我们的全文中,我们论证了为什么这种情况非常难以置信。目前,我们指出,许多政策制定者、投资者和其他利益相关者不愿意押注这种可能性,而必须为这种可能性不会成功的情况做好计划。

这使得在堆栈中向上移动成为最有可能的前进路径。我们相信人工智能公司很清楚商品陷阱;他们正在全力转型,超越纯粹的推理供应商(即通过模型 API 销售无差别的代币),并寻求在堆栈的更高层追求价值捕获。我们正处于这些努力的早期阶段,许多新的、更系统的策略可能会出现(我们将在下一节中研究一些策略)。但一些努力已经显而易见。

  • 像 ChatGPT 或 Claude Code 这样的产品位于模型之上。由于一系列技术、合同和行为原因,产品不能像模型那样互换,正如我们在下一节中讨论的那样。就 OpenAI 而言,长期以来,ChatGPT 而不是 OpenAI API 占据了其收入 的大部分。 2026 年初,Anthropic 的收入仍由 API 主导,但随着 Claude Code 的爆炸式增长,这种情况可能不会持续太久。

  • 堆栈中的下一层是 AI 原生 SaaS 或“智能即服务”,实验室已朝这个方向采取了早期行动:ChatGPT 的公司知识 功能,以及 Anthropic 的记录系统内的代理 愿景。然而,在这一层,实验室最容易受到现有 SaaS 现有企业的影响,尤其是 Microsoft

  • 人工智能公司还通过前线部署工程师 以及与咨询公司的合作伙伴关系 寻求定制部署和工作流程重新设计。这并不能完全融入堆栈。该堆栈假设一种平衡,其中工作场所已通过人工智能进行转变,而此类别是关于尝试将转变本身货币化。

  • 最具投机性、更有利可图的价值获取途径是堆栈的顶层:人工智能代理作为“数字工人”的想法。许多公司都在兜售这个想法。也许大型人工智能公司的第一个版本是Claude Tag,它的设计功能类似于数字工作者而不是工具,于2026年6月推出。嵌入公司每个团队的数字工作者很快就会成为整个组织的隐性知识库,并对不同团队的工作流程和业务流程变得至关重要。除非明确内置可移植性,否则它就会成为实际上无法被解雇的数字员工,从而产生比企业软件最糟糕的锁定程度。当公司出售数字员工时,潜在市场总量就是经济体的全部劳动力支出,远远大于公司的 IT 预算。但正是由于这些原因,该愿景很可能遇到来自企业的最大阻力。

重新绘制的封面插图总结了其中一些正在进行的努力。请注意,堆栈描述的是客户支付的费用,而不是计费单位。代币定价可以在堆栈的任何层使用,其他单位(订阅、结果)可以组合使用或作为更高层的替代品。决定商品陷阱是否适用的是堆栈每一层的价值类型,而不是定价模型。我们将在下一节中更详细地讨论定价策略。

本文的一个关键见解是,在该堆栈中运营较高的公司可以捕获更多他们创造的价值。他们可以更好地差异化他们的产品并建立各种护城河(正如我们下面讨论的),其中许多护城河可以说是新颖的,并且比企业软件更强大。

一个重要的警告:对于人工智能实验室,尤其是 OpenAI 和 Anthropic 来说,要提升地位,他们必须与拥有许多优势的大型现有企业竞争,特别是现有的分销渠道和深厚的企业客户关系。谷歌可以轻松地垂直整合到其现有的消费产品线中。 SaaS 现有企业,尤其是微软,押注自己能够比人工智能实验室更快地破解“智能即服务”模型。这种不平衡性重塑了人工智能生态系统的竞争动态,并指出了试图攀登价值链的关键参与者之间的重要差异。

向上移动堆栈会打开一系列多样化且强大的护城河

提升堆栈如何让公司摆脱商品陷阱?答案不仅仅是更高的层次创造更多的经济价值。它们使价值变得可获取且持久:在堆栈中进行更高的操作使实验室能够区分他们的产品,并构建原始推理卖家(即 API 提供商)无法获得的锁定和转换成本。它们有效地让人工智能公司摆脱了伯特兰悖论核心的缺乏差异化的问题。升级不仅仅是新产品策略;它们是护城河建设战略。在本节中,我们将研究几种不同类型的护城河 - 有些是实验室已经在建造的,有些是他们将来可能建造的。

为了确定人工智能公司从模型层向上移动时会出现哪些护城河,我们研究了企业软件公司如何产生定价能力和获取价值,然后分析了哪些策略可能适用于人工智能公司以及哪些新策略可供使用。

在深入研究之前,我们注意到两个重要的细微差别。首先,虽然护城河是从“竞争对手”手中捍卫市场份额的方法,但我们的兴趣在于分析人工智能公司获取其为“客户”创造的价值的能力。不过,所涉及的策略基本上是相同的,因为两者都需要避免价格竞底。

其次,我们的分析重点是企业市场,因为我们相信它将占收入的大部分。 OpenAI 最近已朝这个方向转向,而 Anthropic 则始终关注企业。虽然广告驱动的消费产品有可能成为未来的重要收入来源,从而在摆脱商品陷阱方面发挥作用,但这并不会破坏我们关于企业护城河的论点。

1. 嵌入护城河: AI 模型是客户在其工作流程中调用的东西。但人工智能的另一个愿景是客户居住的“系统”。后者更有利于构建护城河。

即使底层模型保持可互换,针对给定客户的围绕它的状态也可能不是可互换的。随着时间的推移,这种状态会累积:持久记忆和对话历史记录、上传的文档语料库和检索索引、自定义技能或评估套件、工作流程和业务流程以及各种形式的微调或定制。这种“数据引力”是企业软件具有粘性的重要组成部分,也是取代它的原因被描述为“心脏直视手术”。

OpenAI(公司知识)和 Anthropic(Claude Cowork,普华永道合伙人)已经在寻求这些途径。这些策略的持久性仍然是一个悬而未决的问题。一个复杂的问题是,有助于建立护城河的数据通常位于 Salesforce、Workday 和 SAP 等成熟系统中的公司服务器上,人工智能实验室基本上无法访问这些数据。为了克服这个问题,人工智能公司可以通过控制代理占据的编排层来构建护城河,从而有效地提供绑定组织工作流程的结缔组织。但是,如果开放标准 保持编排层的精简和可交换,价值最终可能会流向代理集成商和企业,而不是实验室本身。

2. 生态系统护城河: Windows、GitHub 和 SAP 等企业软件都受益于这样一个事实:随着它们获得更多在平台之上构建的客户或开发人员,平台的价值不断增长。人工智能市场尚未展现出强大的生态系统护城河。实验室已经努力在人工智能之上创建双边市场作为平台,但到目前为止,这些要么不成功(GPT 商店),要么太薄弱,无法产生有意义的转换成本(Claude 插件)。

一种备受讨论但尚未实现的网络效应是使用客户 IP 训练 AI 模型或系统的“飞轮”,无论是数据、代理执行的环境、这些代理的执行轨迹还是私有评估套件。到目前为止,企业对于允许人工智能开发人员以这种方式使用他们的IP持怀疑态度,但这种情况在未来可能会改变。毕竟,每个部门只需要一名(适当激励的)客户背叛即可启动飞轮。

3. 商业护城河: 这一类别涵盖了一系列熟悉的策略,主要借鉴于企业软件和云计算。商业合同可以包括各种机制(多年协议、承诺支出等级、预付信用),这些机制使得转向竞争对手变得不经济。实验室已经在其企业协议中部署了其中一些机制,但这条护城河的持久性也值得怀疑。经验丰富的企业采购团队会在签署前要求可移植性,而且合同锁定对于反垄断监管机构来说是高度清晰的。

垂直整合提供了相同商业逻辑的更强大版本。当人工智能助手捆绑到企业已经付费的软件中时(Microsoft 365 中的 Copilot,Google Workspace 中的 Gemini),人工智能的边际成本似乎为零,使得独立竞争对手很难在价格上竞争。集成参与者还可以利用现有的销售和采购关系:他们不是赢得新的预算线,而是简单地将人工智能纳入客户已经承诺使用的软件的更新对话中。当然,这种策略只适用于谷歌和微软等整合型老牌企业。如上所述,这意味着像 OpenAI 或 Anthropic 这样的独立实验室必须在结构上不公平的竞争环境中竞争,通常从他们所面对的公司那里租用基础设施。

4. 行为护城河: 虽然上面讨论的护城河是通过技术或商业机制运作的,但行为护城河是通过使用人工智能系统的人类来运作的。就像早期的企业软件浪潮(Microsoft Excel、CRM 系统)一样,人工智能工具的使用可能会导致独立执行任务的技能侵蚀,同时培养特定于供应商的技能来驱动代理产品,从而产生依赖性。这是一个社会风险可能非常严重的领域,超出了其对价值获取的影响:技能侵蚀可能会对劳动力弹性、安全以及人与人工智能系统之间的权力分配产生深远影响。

但行为护城河还包括新颖且鲜为人知的人工智能锁定形式,这些形式在早期软件中没有明确的模拟。一个值得注意的表现是对模型语气或“个性”的关系依恋,当 OpenAI 被迫恢复 GPT-4o 以响应用户需求时,#Keep4o 强烈反对 生动地证明了这一点。更具推测性的是,对于协作知识工作,例如写作或判断力强的工作(与自动化相对),即使事后购买者也很难验证人工智能贡献的质量,因为没有客观标准。这使得此类工作成为所谓的信誉良好,类似于律师和顾问。由于无法比较质量,信用商品的购买者往往依赖声誉和信任。即使转换的“技术”成本接近于零,这也会削弱价格竞争并减慢转换速度。

5. 定价策略: 此途径是对上述途径的补充或补充,并描述了实验室在实现锁定后可能能够获取更多价值并能够发挥定价权的方式。这个想法是,实验室可能能够通过对结果收费(节省的成本百分比,每个解决的支持票的费用)而不是代币来克服商品陷阱。这是 OpenAI 首席财务官 Sarah Friar 的声明背后的明确论点,即收入应该“与情报价值成比例。”

但是,短期内这不太可能。结果定价需要解决具有挑战性的衡量问题。实验室尚未建立基础设施来衡量和了解客户的业务流程,以及跟踪(更不用说定价)不同的结果。如果没有这种可见性,结果指标就会引起双方的博弈:每解决一个问题都会收取一定的费用,这会激励客户将多个问题塞到一张问题中,而供应商会在不一定修复问题的情况下关闭问题。此外,垂直行业和公司之间的结果各不相同,而且人工智能实验室缺乏 SaaS 供应商花费数十年时间建立的嵌入式客户团队,以获得这种下游可见性。尽管如此,一些人工智能公司仍在尝试在这方面进行创新。如果人工智能实验室能够迁移到记录系统,那么只要有足够的投资,这些挑战就会变得容易解决。

这一转变的更广泛影响

我们的分析提出的问题对人工智能经济的未来具有重大影响,但它们远远超出了任何单个人工智能公司的前景。它们涉及数字市场的结构、经济力量的分配以及人工智能可能产生的创新生态系统。

如果实验室未能摆脱商品陷阱,后果主要是财务方面的:对经济史上最大的资本建设之一的潜在信任危机,会对更广泛的技术部门和整个市场产生连锁反应。但如果他们成功了——特别是如果他们设法增加转换成本并建立客户锁定——后果看起来会有所不同,而且在某些方面更令人担忧。这将提高每个依赖人工智能的企业的成本,并巩固少数参与者的结构性优势地位,以后将难以竞争。

在相关护城河变得坚固之前,现在有几个问题似乎特别值得认真对待:

  • 实验室能否在不排除竞争和重复早期有害集中模式的情况下建立可持续的业务?

  • 对投资者和人工智能公司有效的策略是否也能产生更广泛的社会价值,或者人工智能中的价值获取是否会以牺牲周围的生态系统为代价?

  • 人工智能带来的收益会是分散的(主要由部署人工智能的企业和更广泛的经济体获得)还是集中(主要由超大规模企业、前沿人工智能实验室、SaaS 现有企业和投资者获得)?

这些问题仍有许多不确定性,但历史表明,互操作性标准、可移植性要求和转换成本透明度都应尽早建立,赶在锁定效应累积、干预变得结构性困难之前。美国 FTC、英国 CMA 等竞争监管机构已经开始关注这一领域,这是好消息;但目前它们的关注分析似乎仍集中在技术栈底层。我们的分析表明,监管视野必须进一步向上扩展。

我们感谢 Sayash Kapoor 对草案的反馈。

进一步阅读

虽然我们的论点的许多方面至少有些新颖,但“无护城河”论点本身并不新鲜。它的第一个重要表述(据我们所知)可以追溯到三年多前,在一份泄露的谷歌文档中。许多评论家,例如 Gary MarcusEd ZitronCory Doctorow 都坚持不懈地提出了这一点或它的变体。

我们的分析中“可能”的新内容是从历史相似之处中汲取教训,并表明模型推理比那些先例更符合毁灭性竞争的先决条件。我们“绝对”与那些预测泡沫的人不同的是,我们认识到(1)人工智能堆栈相当厚,商品陷阱仅适用于模型层(2)实验室敏锐地意识到了这个问题,(3)一直在疯狂地摆脱它。

许多其他人对实验室持悲观态度,包括 Benedikt EvansLuis Garicano 和 Jesús Saa-Requejo。后者认为,价值捕获将发生在价值链的顶部、硬件和物理提供商[因为计算瓶颈],以及实施层,其中模型投入使用,绑定约束是组织性的,而不是技术性的。 我们基本上同意。但他们的结论是,实验室无法获得太多价值。隐含的假设似乎是实验室仅限于模型供应商,在我们看来,这是一个越来越过时的概念。

Semianalysis 认为,由于计算资源稀缺,实验室将能够维持高毛利率。我们认为这是暂时的情况。

最接近我们想法的是我们的普林斯顿 CITP 同事 Mihir Kshirsagar,他就该主题撰写 系列 文章。虽然我们从与克希尔萨加尔的对话中受益匪浅,但我们的思维在很大程度上是独立发展的,有很多共识,也有一些分歧。与 Kshirsagar 一样,我们认为,如果没有锁定的承诺,人工智能的快速发展就没有经济意义。他的分析认为,超大规模企业和人工智能实验室(例如 Microsoft-OpenAI 和 Amazon-Anthropic)之间的联盟是锁定的主要工具,这与我们的诊断略有不同。

Nathan Lambert 为这一切如何展开提供了一个愿景 - 一个两层人工智能经济,其中处于知识工作前沿的客户为基于领先实验室前沿模型的“堆栈”产品和服务支付高额费用,而其他人都对开放模型生态系统感到满意。他的预测之一比我们的更为尖锐:前沿实验室将让其 API 业务衰退,以保护其利润率更高的产品。

1

伯特兰悖论背后的理论模型是一次性博弈,转换成本不考虑在内,但在实践中我们当然必须考虑它们。

2

这并不是说人工智能将停止改进 - 其他路线(例如推理扩展和更好的工具)仍将保留。

著作权归原作者及相关权利人所有。如需更正或删除, 请联系参识AI