｜用户侧智慧能源管理领航者 - AIoT驱动数字能源升级



搜索

400-86514785

聚力发展引领未来

新能源 + 储能配套 —— 赋能城市化建设

首页

新闻动态

观察丨词元消耗量激增，如何填补智能算力短缺？

分类：新闻动态
发布时间：2026-09-13 14:57:06
访问量：62

观察丨词元消耗量激增，如何填补智能算力短缺？

分类：新闻动态
发布时间：2026-09-13 14:57:06
访问量：62

上海天数智芯半导体股份有限公司副总裁、产品线总裁邹翾在2026中国算力大会主论坛上演讲。会方供图

“未来三五年时间，智能算力将继续保持需求蓬勃而供给不足的状态。”上海天数智芯半导体股份有限公司副总裁、产品线总裁邹翾在9月12日举办的2026中国算力大会主论坛上作出判断。

智能算力是支撑大模型、智能体等人工智能任务的专用计算能力，其市场规模与AI业务需求高度正相关。中国工程院院士邬贺铨在大会上指出，智能体的普及直接拉动Token（词元）消耗激增，词元消耗规模与算力消耗呈正比关系。据中国电信研究院预测，2026年我国词元年消耗量将达到10亿亿，到2030年将超过3500亿亿，年复合增长率接近12倍。

我国智算规模去年底为1590EFLOPS，今年7月提升至2185EFLOPS。2030年中国智能算力规模将达9800EFLOPS。邬贺铨说，目前，中国的算力在全球占21%，美国占46%，按照国家算力网的规划，2030年中国算力有望占到全球30%。

尽管国内智算底座高速扩张，智能算力供给依旧面临现实压力。面向大模型训练、高性能推理的高端算力存在明显缺口，部分已建成算力中心却受限于软件栈适配、跨域调度能力、电力网络配套等因素，上架率不及预期，叠加高端芯片供应链约束，形成“一边紧缺、一边闲置”的局面。

那么，怎么填补智能算力短缺？

太初元碁首席架构师夏忠谋在技术层面向澎湃新闻记者分析，行业竞争重心已经从比拼单卡硬件性能，转向整个计算系统的集群能力。国内现有智算集群是十万卡规模，海外已经达百万卡级别，差距体现在集群规模、性能和运行稳定性上。硬件本身天然存在故障率，既要求硬件器件可靠，也依赖软件调度实现故障容错。

“万卡以上超大规模集群软硬件一体的性能和稳定性，是我们和海外的核心差距之一。”夏忠谋认为，推理场景下国产算力已经可以满足绝大多数业务替代需求；训练侧仍存在差距，但这一差距正在持续收窄。训练端短板很大程度源于缺少大规模真实业务负载在国产集群上跑通打磨，真实业务在国产算力平台跑得越多，芯片、软件栈的迭代优化速度就会越快。

润泽智算科技集团股份有限公司副董事长、总裁李笠在接受澎湃新闻记者采访时表示，可以从供给、成本、规模三个维度缓解算力紧缺难题。供给层面，算力节点靠近产业市场，能够有效拉高集群实际利用率；成本层面，随着主流大模型算法逐步定型，可开发面向通用需求的专用推理芯片，以此提升推理效率、下压算力使用成本，目前国内大模型调用成本已显著低于海外同类服务；规模层面，当前AI在各行业工作场景渗透率仍然有限，未来向千行百业深度渗透后算力需求将呈几何级增长，适度扩大有效供给是大势所趋。

李笠认为，传统IDC（互联网数据中心）主要承载互联网通用业务，AIDC即人工智能数据中心聚焦AI集群运行，二者并非替代关系，AIDC的发展还会反向带动传统IDC业务扩容，长时记忆等AI新需求也对对象存储等传统基础设施提出更高要求，两套设施需要协同演进、共同发展。

软通动力高级副总裁刘怡在谈到“词元工厂”时表示，大模型迭代以周、月为周期快速更新，但能源、芯片、算力基础设施的迭代周期按年计算，快慢周期错配催生了新的产业机会。词元工厂并非简单堆叠服务器，而是硬件、调度算法、缓存策略三位一体的技术密集型系统，类比算力版的电厂，全国一体化算力网相当于国家电网。它需要重点保障缓存命中率、首响稳定性等关键服务指标，抹平业务的波峰波谷，对外输出稳定的词元服务。她呼吁行业共同建设词元工厂性能基准，推动国内AI服务走向普惠、廉价、高效。

除了产业界的技术与模式创新，顶层政策层面也在持续统筹布局算力高质量发展。

9月11日召开的国务院常务会议指出，算力网是人工智能发展的基础支撑。要坚持合理布局、规范有序，进一步完善算力基础设施，积极推进关键技术和装备研发应用，构建多层次网络化算力体系。要更好发挥市场机制作用，支持企业开展科技创新、资源整合和应用推广，促进供需更好匹配。

工业和信息化部总工程师钟志红在算力大会致辞中提出，算力已经成为数智时代不可或缺的新型信息基础设施。要深入推进算力高质量发展，服务国家重大战略和经济社会发展需要。

一是强化系统谋划，提升算力利用效能。加快构建“枢纽—区域—边缘”多层次、梯次化算力架构；持续完善中国算力平台功能，促进算力资源统筹监测和高效利用。

二是强化算网融合，筑牢协同发展底座。搭建高速互联、超低时延、韧性强健的算力传输通道，按需部署城域毫秒接入，持续推进算力互联互通节点体系建设。

三是强化技术创新，锻造自主产业生态。支持高端芯片、架构设计等技术攻关，推动算力设施、算电协同等领域创新，加快算力标准体系建设指南编制。

四是强化应用赋能，激活数实融合引擎。降低用算成本和应用门槛，切实把“普惠算力应用红利”转化为“中小企业发展动力”；推动分行业凝练高价值场景，以算力支撑“人工智能+”行动，促进各领域数字化、智能化、绿色化升级。

澎湃新闻记者赵利新

上一个: 中证协：探索构建IPO智能监管体监管范式或迎智能化升级

下一个: 北京未来人工智能与数字健康研究院揭牌成立

上一个: 中证协：探索构建IPO智能监管体监管范式或迎智能化升级

下一个: 北京未来人工智能与数字健康研究院揭牌成立