点击复制后，粘贴到公众号草稿箱正文区域。
你打开 DeepSeek 或者 ChatGPT，输入一个问题，几秒钟后，答案就出来了。
整个过程看起来很简单：你提问，它回答。
但在这个过程背后，其实有一笔看不见的成本。
模型需要运行在服务器上，服务器里装着大量 GPU。训练模型要用它们，回答你的问题也要用它们。你每次点击发送，背后都可能有一块甚至多块昂贵的芯片在工作。
而在这条产业链上，英伟达一直是绕不开的名字。
它卖 GPU，也卖配套的软件和计算平台。过去几年，全球很多 AI 公司都在大量采购英伟达的产品。
所以，一个问题就来了：
我们每次使用 AI，花出去的钱，到底有多少最终变成了英伟达的收入？
这件事可能比想象中复杂，但最近国产 AI 芯片的发展，让这个问题有了新的讨论空间。
一、为什么 AI 公司离不开英伟达？
先说一个容易理解的事情。
你在手机上打开一个 AI 应用，输入一句话，模型需要经过一系列计算才能生成答案。
这些计算不是在手机里完成的，而是在远端的数据中心里进行。
数据中心里有大量服务器，服务器里装着 GPU。GPU 最初主要用于图形处理，后来因为它擅长同时处理大量计算任务，逐渐成为训练和运行大模型的重要硬件。
现在大家熟悉的 ChatGPT、DeepSeek，以及各种企业内部的大模型服务，背后都离不开这类计算资源。
而英伟达的优势，不只是芯片本身。
它还有一套非常成熟的软件生态，尤其是 CUDA。大量 AI 框架、模型代码和工程工具，已经围绕这套生态发展了很多年。
这就形成了一个很现实的局面：
企业买了英伟达 GPU，不仅能获得硬件，还能直接使用大量现成的软件工具和开发经验。
如果换成其他芯片，硬件能不能买到是一回事，原来的模型代码能不能跑、性能能不能达到要求，又是另一回事。
所以，英伟达真正强大的地方，是硬件和软件生态一起形成了竞争优势。
二、这笔芯片账，最后会不会算到用户头上？
当然会有影响，但不能简单理解成你花的每一分钱都在给英伟达交钱。
一家 AI 公司运营模型，成本大致可以拆成几部分：
GPU 等计算设备的采购和折旧；数据中心的电力、制冷和网络费用；模型研发、训练和工程人员成本；日常运营、存储和服务维护成本。
其中，GPU 是很重要的一部分。
尤其是模型规模越来越大、用户数量越来越多之后，算力支出可能成为一笔非常可观的费用。
举个例子。一家 AI 公司购买了一批 GPU，这些设备不会只服务于某一个用户，而是会被大量请求共享。公司需要把采购成本分摊到设备的使用周期里，再结合电费、机房费用和其他支出，计算每次推理的成本。
所以你问一次问题，实际上是在使用一套昂贵的计算基础设施。
如果 GPU 采购价格下降，或者相同的芯片能够处理更多请求，那么模型服务的成本就有机会下降。
这也是为什么芯片市场的竞争，最终可能影响我们使用 AI 的价格。
但这里有个区别：GPU 价格下降，不等于 AI 产品马上降价。厂商还要考虑市场竞争、模型研发投入、利润空间，以及用户愿意支付多少钱。
算力便宜了，可能表现为 API 降价，也可能表现为免费额度增加、模型响应更快，或者同样价格下提供更强的模型。
三、国产 AI 芯片为什么越来越重要？
过去，国内 AI 企业在使用高端计算芯片时，面临的选择并不多。英伟达的 CUDA 生态非常成熟，很多模型和推理框架都优先适配它。
但随着国产芯片的发展，这种情况正在发生变化。其中比较受关注的就是华为昇腾。
昇腾并不是最近才出现的产品。华为已经围绕它建设了自己的计算硬件和软件体系，包括 CANN 等开发工具。它的目标也不只是提供一块芯片，而是让开发者能够在这套体系上完成模型训练和推理。
这件事并不容易。
芯片研发出来，只是第一步。还需要解决模型适配、算子优化、通信互联、集群调度等一系列工程问题。特别是大模型训练，往往需要成百上千张卡同时工作。单卡性能不错，不代表大规模集群就一定好用。
卡与卡之间需要频繁交换数据，通信效率、网络带宽、软件调度都会影响最终性能。
这也是为什么国产 AI 芯片的发展，不能只看单卡算力参数，还要看它能不能真正支撑大规模模型运行。
四、昇腾能不能让英伟达的芯片便宜下来？
这是我认为更值得关注的问题。
过去很多企业选择英伟达，不一定是因为它在所有指标上都绝对领先，而是因为它的软件生态成熟，开发人员熟悉，部署风险相对可控。换句话说，企业买的不只是一块 GPU，还买了一整套已经验证过的工程体系。
但如果国产芯片逐渐具备规模化部署能力，企业就多了一个选择。
对于 AI 公司来说，这意味着可以根据不同任务选择不同的计算平台：一些已经高度适配 CUDA 的模型，继续运行在英伟达 GPU 上；新开发的模型，可以从设计阶段考虑国产芯片的适配；对成本敏感、调用量大的推理业务，可以评估国产芯片的实际性价比。
这不意味着所有企业都会马上更换芯片。毕竟，迁移一套生产环境远比安装一个驱动复杂。原有代码、模型算子、推理框架、监控系统和运维流程，都可能需要调整。
但只要市场上出现了更多可用的选择，企业在采购和部署时就有了谈判空间。这对整个行业都是有意义的。
五、真正难的不是造出芯片，而是让它好用
如果你是一名普通用户，可能会觉得：既然国产芯片已经能运行大模型了，为什么不直接全部换掉？
原因就在于，芯片只是整个系统的一部分。
同样一个大模型，在英伟达 GPU 上可以直接使用成熟的推理框架运行。换到另一种芯片之后，可能需要重新适配算子、调整显存管理策略，甚至修改部分模型实现。这会增加开发和维护成本。
而且，AI 推理还有一个很重要的指标：速度。企业不仅关心一张卡能跑多少参数，还关心用户发出请求后多久能得到第一个字，以及每秒能够生成多少个 Token。
如果国产芯片采购价格更低，但实际吞吐量也低很多，那么最终每个 Token 的成本未必更低。
所以比较芯片，不能只看售价，还要看：
单卡实际推理性能；相同模型下的 Token 生成速度；多卡并行时的通信效率；软件生态和模型适配程度；长期运维和迁移成本。
这些指标放在一起，才能算出真正的使用成本。
六、这和普通用户有什么关系？
关系其实很直接。
未来 AI 服务的竞争，不只是模型谁更聪明，也包括谁能用更低的成本提供同样质量的服务。如果计算硬件有更多选择，推理成本有机会下降。
对普通用户来说，可能出现几种变化：
第一，AI 产品的价格更有下降空间。当厂商能够用更低的成本处理相同数量的请求，就有机会降低 API 价格，或者提供更多免费使用额度。
第二，AI 服务的供应会更有弹性。如果所有企业都依赖同一套硬件体系，供应链变化就可能影响整个行业。更多计算平台参与竞争，有助于分散这种风险。
第三，更多企业有机会把 AI 用起来。以前企业想自己部署大模型，除了模型和软件，还要面对昂贵的算力投入。如果硬件成本和使用门槛逐渐下降，更多中小企业就有机会尝试自己的 AI 应用。
当然，这些变化不会一夜之间发生。芯片采购价格下降、软件生态成熟、集群性能提升，最终传导到用户价格，中间还有很长的路。
七、最后说几句
以前我们讨论 AI，最关注的是模型有多聪明。后来开始关注上下文长度、生成速度、推理能力。
现在，我觉得还应该多关注一个问题：是谁在提供这些计算能力？我们为这些计算能力付出了多少成本？
英伟达今天的市场地位，是硬件、软件生态和产业积累共同形成的。国产 AI 芯片想要获得更多市场，也不只是把芯片造出来就够了，还需要让开发者愿意用、企业能够部署、业务真正跑得起来。
如果未来有更多芯片能够稳定、高效地运行大模型，AI 服务的成本就有机会进一步下降。到那时，我们使用 AI 花的钱，才可能真正变少。
所以，与其问国产芯片什么时候完全替代英伟达，不如关注一个更实际的问题：
当 AI 公司不再只有一种算力选择时，我们使用 AI 的成本，会发生什么变化？
—— 第四生产力 ——
专注企业级 AI 工程实践
RAG｜Agent｜推理优化｜集群调优
从模型能力到业务价值的最后一公里。