1+1>2|壁仞科技助力DeepLink混推方案,首次实现国产多算力规模化混推

来源:壁仞科技Birentech #壁仞科技#
4124

近日,上海人工智能实验室推出DeepLink多元算力混合推理加速方案(以下简称“DeepLink混推方案”),首次实现对壁仞科技等四家国产算力厂商多款芯片的混合调度与协同推理。

DeepLink混推方案的发布,既为全国智能算力互联互通、高效盘活分散算力资源探索出新路径,也为“人工智能+”行动落地提供稳定、灵活、高效、低成本的算力支撑。

在传统大模型推理架构中,在单一芯片集群的PD分离推理策略,已成为业界主流推理优化应用方向。然而,面向国产异构芯片的协同推理,仍是当前行业亟待攻克的关键难题。本次,上海人工智能实验室推出的方案,为激活多元国产算力生态提供了新模式。

基于统一推理中间件、低时延通信、智能流量路由、策略求解器等原创技术,DeepLink混推方案具有精准匹配算力密集型、访存密集型硬件的能力,并同时兼顾推理时延与吞吐性能。另外,该方案还具备良好的可扩展性,能有效地应用于Attention-FFN(AF)分离等其他场景。

在此基础上,DeepLink 混推方案首次实现包括壁仞科技等四家厂商在内的多款国产芯片的深度混合调度与协同推理,并完成国产异构芯片“1+1>2”的效能跃升。

壁仞科技秉持 “技术开放、产业协同、标准共建” 理念,在异构混训、异构混推等异构算力关键技术领域深入探索,推动多元算力高效融通。2024年底,壁仞科技在业界首次实现四种异构芯片混合训练,随后在人工智能产业工委会的推动下,牵头成立智算集群异构混训工作组,并在全国信标委主导下制定异构混训国家标准,深度参与DeepLink跨域混训合作;2025年世界人工智能大会期间,壁仞科技再度取得突破,首次实现基于壁仞科技、英伟达等多款芯片异构算力混推,与中国电信联合发布异构算力协同白皮书。今年,壁仞科技与上海人工智能实验室合作进一步深化,推出全新的DeepLink混推方案。

值得关注的是,壁仞科技与上海人工智能实验室联合发起并牵头推进异构混推标准制定工作,打造技术攻关、应用落地、标准引领闭环,以实际行动响应落实2026年初工信部等八部门联合印发《“人工智能+制造“专项行动实施意见》中提出的加快突破异构算力等关键技术的工作,共建异构算力开放生态,支持多元算力高效落地,为人工智能产业筑牢坚实算力底座。

责编: 爱集微
来源:壁仞科技Birentech #壁仞科技#
THE END
关闭
加载

PDF 加载中...