AICAS 2024 Grand Challenge大模型优化国际挑战赛竞赛研讨会在南京圆满落幕

2024年3月2日，第六届IEEE人工智能电路与系统国际会议（IEEE International Conference on Artificial Intelligence Circuits and Systems, 简称IEEE AICAS 2024）的一项重要活动——AICAS 2024 Grand Challenge大模型优化国际挑战赛竞赛研讨会在南京大学国际会议中心圆满落幕。

AICAS是IEEE电路与系统协会（Circuits and Systems Society）旗下、全球知名的人工智能电路与系统会议，也是该领域最受好评的年度会议之一。

本次AICAS竞赛研讨会由南京大学主办，西安电子科技大学和上海交通大学协办。研讨会邀请到了IEEE CASS主席、集成电路领域的专家、半导体行业代表企业平头哥和 Arm的高级合作专家、技术专家以及本次竞赛的前32支参赛队伍代表，其中包括来自阿联酋Khalifa University和韩国的Hanyang university的参赛队伍。研讨会聚焦于以倚天710云原生CPU为例, Arm架构上高性能多核/众核CPU大语言模型的软、硬件协同优化问题。多位领域内专家学者和上届竞赛获奖团队将参与讨论，分享他们的研究成果和经验，并探讨相关软、硬件平台的最新技术进展。

会议伊始，南京大学的杜力教授作为代表，欢迎各位专家和参赛者的到来并邀请IEEE CASS主席Myung Hoon Sunwoo教授发表致辞。

主席介绍了CASS协会的发展历史，CASS的部门组成以及主要的Fellow成员，并在会上宣布了新期刊的发布(IEEE Transactions on Circuits and Systems for Artificial Intelligence)。

平头哥的高级合作专家马晓晗博士介绍了平头哥半导体的倚天加速平台以及大语言模型在倚天上部署经验，尤其是SVE（Scalable Vector Extension）技术的应用实践。来自Arm的技术专家边道京老师介绍了如何实现大语言模型在Arm架构上的高效运行，其中重点介绍了可用于大语言模型在Arm平台端到端编译的Arm Compute Library（Arm 计算库）。

上海科技大学哈亚军教授介绍了一种深度神经网络的整型量化方案，该方案可以将激活的量化难度转移到权重上，以实现对激活的均衡处理。实验结果表明该量化方案在主流神经网络上取得了优异的结果。

浙江大学卓成教授介绍了一种针对二值化大语言模型(LLM)的高校推理方案和优化框架。所报告的优化框架可以实现二值化LLM的高效优化和加速。

阿里达摩院的杨安博士介绍最新千问大模型（Qwen2.0），该大模型基于多模态原理，可以支持不同模态的数据输入和输出。在会场上，杨博士还提出了文生视频大模型的设想和展望。

至此，AICAS 2024 Grand Challenge大模型优化国际挑战赛竞赛研讨会圆满结束。作为人工智能领域公认的高水平国际学术会议，AICAS 2024积极推进了全球新兴人工智能技术在学术机构及企业中的应用，加强了相关领域研究者的合作与交流，为国内外杰出科学家及企业家搭建了一个良好的交流与合作平台。AICAS 2024为广大学子提供了一个将学术界最前沿的大语言模型落地的机会，可以极大催化人工智能在未来工业或产品中的应用。未来，AICAS会议将继续发挥其影响力，为人工智能的发展和普及持续注入新活力。