144 芯装进单机柜:天数智芯展示业界最高密度单机柜 GPU 超节点方案
首页 > 电商学院 > 汉潮快讯 > 144 芯装进单机柜:天数智芯展示业界最高密度单机柜 GPU 超节点方案

144 芯装进单机柜:天数智芯展示业界最高密度单机柜 GPU 超节点方案

0人阅读|发布时间:2026-10-13
导读:10 月 12 日至 16 日,2026 中国国际工业博览会在上海举行。

来源:极客公园

上海,10 月 12 日——10 月 12 日至 16 日,2026 中国国际工业博览会在上海举行。天数智芯系统化超节点布局中的首个方案——天垓 300 IXL144 首次亮相。作为业界最高密度的单机柜 GPU 超节点,该方案单柜可集成 144 颗 GPU;公司同步展示天垓、智铠、彤央云边端产品矩阵,以及金融、能源、城市治理、医疗等领域的落地实践。

工博会开幕前夕,中共中央、国务院印发《关于发展新质生产力的意见》,将全面实施「人工智能+」行动、强化算力算法数据高效供给作为重要部署。算力是发展新质生产力的关键底座,其供给质量与系统效能,直接关系数智技术与实体经济融合的深度。天数智芯此次带来的系统级方案与行业实践,以提升系统经济效能为核心,致力于为新质生产力发展提供高质量算力支撑。

超节点规模落地,考题从「造得出」转向「用得起」

大模型与智能体(Agent)加速进入生产,超节点正成为 AI 基础设施的主力单元。IDC 报告显示,智能体进一步拉陡了算力需求曲线,2026 年中国智能算力规模预计达 2576.5 EFLOPS,同比增长 87.9%。需求真实放量,超节点的规模部署随之展开。

从技术验证走向规模采购,客户需要算清三笔账:一是迁移账,已有的模型与代码是否需要推倒重写;二是机房账,是否要为整机柜专门改造供电、承重与散热,乃至新建机房;三是运营账,每百万有效 Token 的成本能否下降,算力能否按需扩展而不形成闲置。

迁移、机房与运营三笔账合在一起,衡量的正是超节点的系统经济效能——在真实部署条件下,单位投入能够持续产出多少有效算力,这也是全要素生产率在算力基础设施层面的具体体现。天数智芯认为,能够规模铺开的超节点,需要同时具备更高的集成密度、对现有机房更友好、对已有代码更兼容,天垓 300 IXL144 即沿这一方向设计。

144芯装进单机柜,在系统层面回应规模部署

天垓 300 IXL144 方案在单柜内集成 144 颗 GPU 与 18 颗 CPU,配备约 10.1TB 显存。其价值不止于密度,更在于系统经济效能的整体改善。

其一,单机柜形态,贴近常规机柜标准。主流整机柜超节点多采用专用整机柜形态,配套专属液冷与供电,往往要求专门机房,即「先建房、再上柜」,改造投入大、周期长。IXL144 采用贴近常规机柜标准的单机柜形态,在供配电、承重与散热条件匹配时即可进入现有机房;结合灵活组网拓扑,可一次规划、分步扩展,避免一次性过度投入。

其二,通用GPU兼容主流生态,降低迁移上线成本。自主通用 GPU 架构与自研软件栈兼容 CUDA 生态,支持客户复用已有模型、主流框架及开发经验,降低迁移工作量与上线成本。作为通用 GPU,同一底座既承载大模型训练与推理,也支撑金融估值、科学智能等任务,区别于仅适配特定 AI 负载的专用芯片,迁移成本与上线周期相应下降。

其三,整柜互联,144颗GPU协同如一。高带宽整柜 P2P 互联、100ns 级单跳时延、原生 Load/Store 与跨节点显存直访,将 144 颗 GPU 组成统一内存语义的高带宽域;约 10.1TB 显存为模型权重、MoE 专家和长上下文 KV Cache 留出空间。模型所需并行资源更多在单柜内协同,高频 All-to-All 交互留在柜内、减少跨柜等待;互联参考设计在特定 MoE All-to-All 场景实现有效带宽提升 15%,资源利用率与单柜业务承载随之改善。

面向大规模在线推理业务,IXL144 围绕高并发请求、多业务并行与流量波动等运行特点,以吞吐能力、响应时延和资源利用率为系统优化重点,兼顾业务高峰期的服务承载与低谷期的算力利用,着力提升多业务协同承载能力和长期运营效率。

天数智芯同时关注算力全生命周期的使用效率。在交付与服务环节,本地化团队可提供必要的部署、运维与扩容支持,为大型算力投入提供长期保障;更核心的是系统经济效能的提升——通过计算、互联与调度的协同,让同等投入转化为更多有效算力。据测算,每百万有效 Token 的成本较国际主流方案可降低 40%。

天垓系列已实现万卡级规模部署,天数智芯由此具备系统级交付与运维经验。从今年 1 月公布四代架构路线图,7 月 WAIC 发布天垓 300、效能对标并超越 Hopper 架构国际主流方案,到此次展示天垓 300 IXL144,旗舰 GPU 能力正从单芯片延伸至整机柜,并在真实机房中持续迭代。

「超节点不是单一产品,而是一项系统工程,最终比拼的是系统经济效能。」天数智芯副总裁邹翾表示,「天垓 300 IXL144 只是一个开始,是天数智芯整套系统化超节点方案中率先推出的第一个;面向不同算力规模、不同机房条件的完整产品布局已经形成,后续将在合适场合逐一呈现,系统展示我们对超节点的整体思考与技术布局。」

算力需求走向分层,端侧将是独立且庞大的一层

展会现场,天数智芯同步展示了云-边-端完整产品布局。随着 AI 从云端走向现场,算力需求正在分层:大规模训练与复杂复判集中在云端,而大量要求实时响应、涉及数据安全、需要现场闭环的任务,须在本地、在端侧完成。端侧不是云端能力的简单下放,而是一层独立且规模可观的需求。

长期以来,端侧算力多由专用设备承载,工具链与算子支持有限,模型一旦更新或规模增大,就可能难以移植,设备也容易成为算力孤岛,难以承接持续演进的模型与现场任务。

由云端 GPU 厂商来做端侧,其优势恰恰来自云端能力的下沉。一是把云端成熟的通用 GPU 架构与完整软件栈——包括编译器、算子库与性能工具——带到端侧,使端侧能够持续运行更新、更大的模型,而不受制于薄弱的端侧工具链;二是云端与端侧同源,模型在云端训练、端侧部署、云端复判之间顺畅流转、精度对齐,现场场景中「边缘初检、中心复判」的协同正建立于此;三是端侧产品跟随云端同代路线图演进,叠加本地化交付,客户的端侧投入同样具备长期延续性。

围绕分层需求,智铠系列承接云端及边缘推理,对时延、吞吐与能效进行优化;今年新发布的彤央系列,则以算力模组、算力终端等形态服务端侧,可广泛覆盖物理 AI 等未来产业以及智能终端、现场作业等多元场景。

本次现场展示了彤央的一类典型应用——作为物理 AI 载体的「外挂大脑」,为具身智能设备提供模型运行与实时推理能力、显著提升其智能水平;投资材料分析、合同内容审核等数据敏感场景演示,也同步呈现了同源架构在端侧的模型运行能力,可以基于本地部署的大模型进行离线处理,通过设定业务规则,结合大模型自身强大的理解与泛化能力,在彤央 TY1200 算力终端上流畅运行,使得本地 AI 具备投入真实业务场景使用的能力。

规模落地,在千行百业的现场作答

算力的价值,最终由生产环境中的实际成效检验。落实「人工智能+」行动,天数智芯依托「通用 GPU+自研软件栈」,推动数智技术进入传统产业改造、新兴产业培育与民生服务,已在一批重点行业形成可复制的落地经验。

工业:让通用 GPU 进入生产工艺优化。围绕中控技术 TPT 时序大模型应用一体机,天数智芯基于天垓系列产品接入客户自研工业计算引擎,开展 TPT 训练与微调测试及自研算法全量性能验证,并基于 vLLM 完成双卡 27B 通用大模型推理部署、验证 KV Cache 三级缓存优化方案。通过时序大模型、通用大模型与工业计算协同,为生产工艺优化、运行状态预测与操作辅助等应用提供算力支撑,体现同一通用 GPU 底座承载工业 AI 与传统工艺计算的能力。

金融:同时支撑大模型推理与科学智能。针对多模态大模型在图文混合场景下面临的高并发响应延迟与迁移适配复杂等挑战,天数智芯依托国产 GPU 算力平台,为银联云提供主流多模态大模型的高效部署与适配支持,实现图文混合负载下的快速首字响应与高并发稳定吞吐,兼顾性能表现与部署便捷性,为金融行业多模态 AI 应用的规模化落地提供可靠的国产算力支撑。在头部银行案例中,软件栈支持蒙特卡洛模拟算法,并且兼容 CuPy、PyTorch 异构编程框架,在期权定价场景下最大程度发挥 GPU 计算性能优势;另外还提供 SciPy、NumPy 的 GPU 加速等效方案,在金融产品估值场景下大幅释放并行计算潜能,100 万行数据下曲线插值较 CPU 方案加速约 4 倍,显著提升运算效率。

能源与矿业:以数智技术改造提升传统产业。在物探领域,处理、建模、成像、解释多轮迭代、算法持续演进,且要求迁移后结果一致,天数智芯以统一 GPU 资源池贯通数据处理、速度建模、偏移成像与智能解释全流程,适配 GeoEast 平台、自研算法与 AI 负载,天垓系列已实现千卡级部署,计算精度与全球领先方案对齐。在智慧矿山,针对井下风险点多、解码识别编码链路割裂、多矿点难集中核验,天数智芯以单卡贯通视频解码、AI 识别与编码回传,单机 4 张智铠 100X 可实时处理 50 路 1080P 视频,告警带画面、跨矿点集中核验;联合百度一见平台,覆盖 6 类 48 种作业技能,违规行为识别准确率约 85%。

城市治理:让海量摄像头「会思考」,让长尾事件「被发现」。在交通领域,面对抛洒物、事故等长尾事件样本少、全量复核人力负担重,天数智芯联合开云智联,以边缘小模型初检、多模态大模型复判,大模型核心事件阶段测试准确率达 90% 以上,事件覆盖由 7 类扩展至 16 类以上,目标平均发现时间<1 分钟。在园区与物业,针对存量摄像头「只看回放」、人工巡查存在空窗、告警与工单脱节,天数智芯联合四格互联,利旧存量摄像头、以边侧算力承载轮巡识别并打通派单闭环,单设备 30 分钟可轮巡 500 路,告警准确率提升 90% 以上,星通大厦巡检间隔由 4 小时缩至 30 分钟、缩短 83%。

医疗:将 AI 嵌入医生桌面与医院业务系统。针对临床信息查阅负担重、病历质控与医保审核占用人力、AI 难以接入业务流程,天数智芯携手卫宁健康,以国产 GPU 承载 WiNGPT 医疗大模型并连接 WiNEX 业务系统,实现病历缺陷边写边提示、9 大类医保规则实时审查,以及 7×24 小时 ICU 辅助临床决策。

截至目前,天数智芯已服务 30 多个行业的 380 多家商业化客户,落地部署超过 1000 个项目。客户积累正在形成一条可延续的升级路径:通用软件栈持续演进并承接 CUDA 生态,客户既有的模型与开发成果得以复用、迁移工作量显著降低;在此基础上,客户能够以熟悉的真实业务负载评估天垓 300 及超节点性能,验证结果更贴近生产,也更有把握推进后续的验证、采购与扩容。

让Agent参与「造AI」:开发者生态与软件栈升级

随着 Agent 融入开发流程,人机协同正成为新的开发方式。开发者可在现场体验 Iluvatar SkillHub,通过 Agent 调用 Skills,基于天数智算软件栈完成模型适配、精度调优等工作。近期,天数智算软件栈还将迎来版本更新,进一步构建面向 Agent 协同的智能开发套件,将 AI 引入模型适配、部署与性能优化等环节,推动开发由人工操作为主向人机协同演进。

未来,天数智芯将持续推进「通用 GPU+自研软件栈」体系建设,携手上下游生态伙伴,使高质量算力从单卡走向整柜、从云端延伸至端侧,服务更多产业场景。

来源:互联网

免责声明:本文为转载,仅作信息分享交流之用。版权归原作者所有,如有侵权,请联系删除。

热门产品

解决方案

0311-85200850
在线咨询