计算万物 湘约未来|AI算力到你手边,要过几道关
刘乐 湖南日报·新湖南客户端
湖南日报全媒体记者 刘乐
提到AI算力,很多人先想到芯片。
11月20日,2026世界计算大会的三场论坛上,专家把目光投向芯片之外:一场讲存储,一场讲光互联,一场讲AI服务器。AI竞争正从单颗芯片的比拼,转向存储、互联、整机的系统较量。
这条链离普通人并不远——刷视频顺不顺、手机能不能本地跑大模型、机器人能不能真正干活,都在其中。
存储,从后台走到前台
“过去存储像数据保险箱,现在它正在变成AI的核心基础设施。”AI存储论坛上,中国电子工业标准化技术协会数据存储专业委员会秘书长孙钢打了个比方,算力像高性能跑车,存储是油箱和沿途的加油体系,只堆算力不配套存储,系统很快会停摆。
(AI存储论坛上,中国电子工业标准化技术协会数据存储专业委员会秘书长孙钢进行分享。 刘乐 摄)
“内存墙”是论坛上被反复提起的词。算力跑得快,内存带宽、容量和数据搬运效率跟不上,到了AI推理场景,这个矛盾更明显。
普通用户其实碰得到。现场有嘉宾提到,DeepSeek近期对C端“限流”,超过7天无活跃交互的旧对话无法再读取,单次输入的文字上限下调至约4万字。原因不只在算力,缓存和存储瓶颈也是重要一环。
孙钢解释,大模型本身没有记忆,对话上下文、长文档处理都要靠缓存;显存不够,数据就往下层层调度,存储压力随之放大。换句话说,芯片算得再快,数据搬不进来、存不下去,整机体验还是会卡住。
办法也有。KV缓存把算过的中间结果存下来复用,同样的问题不必再算一遍。大量用户问相似问题时,重复的直接读缓存。访问量越大,摊薄后的单位成本越低。它不会让AI更聪明,但能让同样的算力服务更多人。
存储正常时,用户感知不到;一旦受限,体验立即下滑。存储正从后台被推到“支撑位”,成为AI能不能发挥最佳“能效比”的重要底座。
卡点,从芯片移到互联
单颗芯片跑不过需求,只能靠多卡互联组集群;而互联本身,正成为新的卡点。
AI服务器论坛上,国家超级计算长沙中心常务副主任陈果算了一笔时间账:网络速度若能提到10T,头部大模型训练周期可从数月压到一个月以内;推理现在每秒输出几十到一百字,提速后有机会到每秒千字。
(AI服务器论坛上,国家超级计算长沙中心常务副主任陈果进行分享。 刘乐 摄)
智能体要真正干活,先得让数据跑得动。陈果把问题拆成两层:服务器之间,服务器内部。机间网络上,规模小时传统方案还能应付,集群一大,协议和调度压力陡增,国内团队已在探索多路径传输等国产方案。机内网络上,GPU访问内存的通路没有充分用起来,他所在团队正尝试复用机内多条总线,提升数据搬运效率。路子不同,指向同一个问题——让数据少绕路。
趋势很清晰,过去拼单卡峰值,现在拼集群协同。机间网络、机内总线、协议栈、调度方式,哪一环跟不上,整机有效算力都会打折。
AI计算之光论坛上,中国电信研究院行业研究所所长饶少阳也在说同一件事。他提到一个容易被忽略的细节:生成一段15秒视频,消耗的token可达大语言模型的几十到几百倍。单卡仍在迭代,但已不够用,行业转向百卡、千卡甚至万卡集群;网络带宽跟不上算力增速,集群的整体算力就发挥不出来。
(AI计算之光论坛上,中国电信研究院行业研究所所长饶少阳进行分享。刘乐 摄)
从训练周期到推理速度,从视频生成到智能体落地……芯片决定算得多快,互联决定这些算力能不能跑起来。
整机竞争,看供应链协同
数据中心一般是平铺结构,机房在一层中间,基础设施在外围,方便接室外设备。郑州北龙湖这个十万卡集群采用了立体结构:核心算力机房在三楼,换热和配电在二楼,垂直向上供冷供电。
AI服务器论坛上,曙光数创华中区域总监文云介绍了这个“立体数据中心”。听着像建筑问题,其实是机房算力密度“逼”出来的。单柜功率从早期5到10千瓦一路涨到200千瓦甚至更高,风冷撑不住,冷板液冷、浸没式液冷往上顶;算力密度一大,设备集中,楼板承重、层高、配电全要重新算。
文云介绍,Token成本里,IT设备占71%、电力占21%、基础设施占8%,降本重点在电力和基础设施。北龙湖集群用湖水循环换热,高密区168台900千瓦机柜采用相变浸没液冷,PUE低至1.04,余热回收后给科研楼和办公区供暖。
(AI服务器论坛上,曙光数创华中区域总监文云进行分享。刘乐 摄)
AI服务器竞争因此不只是“卖一台机器”。整机厂与上游材料、器件企业的关系在变,从“买卖关系”转向“联合开发、前置定义”。
湖南已有落点。华启智慧把国产AI服务器项目落到长沙望城,达产后形成年产2万台能力;拓维信息参与湘江鲲鹏项目,从签约到投产,120天建成厂房、首台“湖南造”服务器下线。
整机厂往前站,供应链企业跟着前置定义,存储、互联、供电、散热和软件栈拧成一股绳。协同得好,算力才到得了手边。
责编:刘乐
一审:刘乐
二审:曹娴
三审:李伟锋
来源:湖南日报·新湖南客户端

版权作品,未经授权严禁转载。湖湘情怀,党媒立场,登录华声在线官网www.voc.com.cn或“新湖南”客户端,领先一步获取权威资讯。转载须注明来源、原标题、著作者名,不得变更核心内容。

下载APP
报料
关于