天数智芯旗舰 GPU 天垓 300 首次亮相 WAIC,以硬核算力支撑信息、行动、探索三类智能

来源:爱集微 #天数智芯#
4857

2026世界人工智能大会期间,天数智芯正式发布新一代通用GPU旗舰产品天垓300。作为公司新一代自研架构的首款产品,天垓300面向人工智能从“信息智能”“行动智能”到“探索智能”的发展趋势,围绕芯片架构、关键算子、系统扩展和软件生态全面升级,以对标并超越Hopper架构的国际主流方案(以下简称Hopper方案)的效能表现,为AI规模化应用提供高质量算力支撑。

天垓300 PCIe板卡和OAM模组

天垓300基于SIMT通用计算架构,可高效支持标量、矢量和张量等多种计算类型,并围绕Attention、MoE、AF分离、PD分离及大规模系统扩展等关键技术进行优化,进一步提升底层算力向实际Token产出和业务价值的转化效率。在复杂业务负载下,产品兼顾计算效率、业务时延和TCO,满足人工智能规模化应用对通用性、性能和成本的综合要求。

天数智芯AI与加速计算负责人单天逸表示,人工智能正从理解与生成信息的“信息智能”,迈向具备规划和执行能力的“行动智能”,并进一步拓展至能够建模、预测和探索未知的“探索智能”。三类智能对计算提出不同要求,也构成了天垓300的产品设计主线。

信息智能:突破关键瓶颈,提升大模型训推效率

随着模型参数规模扩大、上下文长度增长和推理请求增加,算力平台既要提升训练吞吐,也要兼顾推理响应和使用成本。针对大模型计算中的核心环节,天垓300重点优化了Attention与MoE。

在Attention计算中,天垓300通过提升矩阵计算与向量计算的并行效率,减少数据读写等待和冗余计算,在不同精度下实现超过90%的Attention效率,效能优于Hopper架构主流方案。在长序列任务中,产品能够更加充分地利用计算资源,提升训练与推理效率。在上下文64k的场景中,天垓300的Attention效能高于Hopper方案10%。

针对MoE架构中的专家调度和数据路由损耗,天垓300通过算法与硬件协同优化,提高专家与计算单元利用率。在DeepSeek V4 MoE场景中的计算效率突破70%,综合训练效能和性价比优于Hopper方案;在推理场景中,可在保持相同响应体验的情况下承载更多并发请求,以相同算力投入完成更多推理任务,平均效能高于Hopper方案10%。

行动智能:优化PD分离,提升Agent响应与执行效率

Agent不仅要理解目标和规划任务,还要持续调用工具并完成执行,对首字响应、生成速度和多卡通信提出了更高要求。为此,天垓300强化PD分离能力,分别针对上下文处理的Prefill阶段和逐Token生成的Decode阶段进行差异化优化,让Agent既能“想得快”,也能“做得快”。

在Qwen、GLM、Kimi、DeepSeek等主流模型测试中,天垓300首字延迟较Hopper架构主流方案降低约20%。针对Decode阶段高频、多卡、小数据量通信,产品通过降低协议开销、优化链路路径和数据流转机制,使平均通信延迟降低约13%。在GLM 5.2等模型的Decode测试中,效能较Hopper方案提升10%,可为智能编程、办公助手和业务自动化等Agent应用提供更加及时、流畅的交互体验。在PD分离中Prefill和Decode的效能都高于Hopper方案,实现全面突破。

探索智能:回归计算本质,支撑多元算法演进

在新材料发现、气象预测、数字孪生和世界模型等场景中,AI需要参与复杂系统建模、实验验证和未来预测,计算范式也由相对集中的大模型负载,拓展至矩阵求解、动态规划、稀疏计算和仿真模拟等多类任务。

天垓300坚持“回归计算本质”,不局限于Transformer架构,可高效支持标量、矢量和张量计算,覆盖FP4、FP8等多种精度及MMA、DPX、FMA等指令。除Attention、FFN和MoE外,还可适配矩阵求解、动态规划、稀疏计算和数字孪生等任务,为现有算法优化和未来计算范式演进预留空间,帮助客户通过虚拟仿真降低现实世界中的实验成本和试错风险。

在Cosmos3世界模型中,天垓300的推理效能相较Hopper方案同样高出10%。

不止于芯片:以底层创新与全栈生态释放通用算力价值

支撑三类智能的,是天垓300在底层架构上的持续创新。ixSMEX通过提高数据复用率减少重复访存;ixDPX将动态规划中原本需要六条指令完成的计算压缩至一条;ixTrans则通过无损矩阵转置,降低存储冲突和显存开销,进一步释放芯片计算效能。

天数智芯认为,通用GPU的长期价值不仅来自单颗芯片的性能,更在于构建一个通用、好用、易用的生态。公司自2018年起持续完善软件栈,目前已开发近百个加速库,并形成覆盖通信、编译、驱动、量化和性能分析的工具体系。天垓300同步支持全球主流大模型框架、模型及关键加速组件,可减少客户在迁移、适配和性能调优中的重复投入。

目前,天垓300已具备规模化应用条件,并与国内云厂商、服务器厂商、互联生态及超节点系统开展深度适配,可支持从单机到规模化集群的规模化部署。

天垓300并非一款孤立的芯片产品,其背后是一套由硬件、软件、系统与合作伙伴共同构成的生态。未来,天数智芯将与更多产业链伙伴共同完善通用GPU产品与生态,以高质量算力赋能智能社会,推动人工智能重塑千行百业。

关于天数智芯

天数智芯(9903.HK)是中国领先的通用GPU产品及AI算力解决方案提供商,致力于开发自主创新、国际领先的通用GPU产品,加快建设自主产业生态,为我国经济社会高质量发展提供坚实算力底座。天数智芯通用GPU产品涵盖天垓、智铠及彤央系列,具备优效能、易迁移、高通用优势,全面兼容国内外主流AI 生态与深度学习框架。未来,天数智芯将打造更可信、更高效、更绿色的算力引擎,赋能千行百业数字化转型,促进我国数字经济高质量发展。

责编: 爱集微
来源:爱集微 #天数智芯#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...