“AI+”大咖说丨如何让端侧AI开发事半功倍?“周易”Compass AI软件平台超强“金牌辅助”!

来源:安谋科技 #安谋科技# #周易X3# #端侧AI#
2784


“软硬协同才能真正释放算力价值。”在安谋科技“周易”X3 NPU IP发布会上,高级产品经理叶斌一语点出了大模型时代端侧AI落地的关键。“周易”X3是专为大模型打造的“算力引擎”,其配套的Compass AI软件平台则是确保引擎高效运转的超强“金牌辅助”,让端侧AI开发事半功倍。

“周易”X3 NPU Compass AI软件平台

据叶斌介绍,Compass AI软件平台核心优势是完善易用,可显著提升开发部署效率,让用户轻松实现从模型到硬件的无缝衔接:

  • 端到端统一工具链支持:覆盖“周易”全系列NPU,基于「AIPULLM」实现模型导入、编译优化到硬件或仿真器部署的全流程,并提供客户定制化接口,真正实现“一键部署,开箱即用”;

  • 完备的模型与算子支持:支持160+算子、270+模型,并对LLM/VLM/VLA及MoE等大模型推理进行深度优化,实现从CNN到Transformer模型的无缝接入;

  • 多框架多系统适配:原生支持Hugging Face,以及支持TensorFlow/PyTorch/ONNX等AI框架,兼容Android/Linux/RTOS/QNX等主流OS,显著降低模型跨平台迁移与部署成本;

  • 先进量化与优化方案:支持完备量化方案、多精度计算与高效动态Shape,进一步提升大模型推理计算精度、效率与资源利用率,实现云到端的快速模型应用迁移。

开放生态方面,叶斌表示,Compass AI软件平台为开发者提供高度灵活的调优、创新空间与安全保障,有效降低AI开发门槛:

  • 客户自定义算子开发与安全:平台提供多种开放接口,开发者可基于DSL编程语言,通过丰富的NN编译器插件实现自定义算子、优化及编译操作,且相关模型算法信息不会公开或泄露给第三方,信息安全得到充分保障。同时配合可视化调试工具,能够实现全链路可观测、可优化;

  • 灵活开放:依托“周易”NPU软件开源计划,Compass AI软件平台提供软件模拟器、调试器、C编译器等多种软件工具,并开放IR规格、开源量化工具等核心组件,还支持用户接入自研量化算法;

  • 赋能产品差异化设计:平台避免“一刀切”的软件限制,提供更丰富的模型格式支持与白盒调试适配能力,从而为客户提供了充分的定制化空间,有力支撑其实现产品差异化创新。

正如叶斌在ICCAD 2025安谋科技展台的媒体直播专访环节所言:“Compass AI软件平台不仅完善易用、开放生态、客户自定义算子开发与安全,更让‘周易’X3兼具硬件实力与软件支撑。通过降低开发门槛、提升工具链效率,Compass AI软件平台正推动端侧AI从单点应用走向规模化渗透,从技术探索真正迈向产业落地。”

责编: 爱集微
来源:安谋科技 #安谋科技# #周易X3# #端侧AI#
THE END
关闭
加载

PDF 加载中...