• 收藏

  • 点赞

  • 评论

  • 微信扫一扫分享

中科院微电子所在基于低功耗人工智能领域研究取得进展

来源:爱集微

#中科院#

#人工智能#

2022-10-20

集微网消息,近日,中科院微电子所感知中心低功耗智能技术与微系统团队在低功耗人工智能领域研究取得新进展。

据悉,语音唤醒技术是人工智能领域的重要技术,而通常高性能的深度卷积神经网络模型的语音唤醒模型复杂度高、计算量大、需占用大量内存。

对此,感知中心科研团队提出一种用于语音唤醒的极轻量化、高准确率的改进二值残差神经网络B-ResNet,利用二值量化方法,将神经网络中的全精度权重、激活参数量化为1bit(+1,-1),显著降低内存占用,亦可将网络中存在的大量浮点卷积乘加运算简化为XNOR同或逻辑与popcount运算,大幅降低计算复杂度。

为解决二值网络带来的精度下降问题,团队在B-ResNet网络前向传播中提出一种具有移位初始化且可学习的激活函数来优化网络各层激活值分布,降低信息损失,并在反向传播过程中,提出一种具有可变周期性窗口的梯度修正近似方法,有效解决梯度失配与消失问题。在GSCD标准语音数据集的12分类任务下,与基线网络Res8-narrow相比,该技术可降低33%参数量与72%计算量,实现更高语音唤醒精度,为后续该功能的低功耗硬件实现奠定良好基础。

该成果的论文被国际语音通信协会(ISCA)组织的语音领域重要会议Interspeech2022接收,团队被邀请作口头报告。(校对/魏健)

责编: 赵碧莹

姜羽桐

作者

微信:

邮箱:jiangrt@ijiwei.com

作者简介

少年优遊人間

读了这篇文章的人还读了...

关闭
加载

PDF 加载中...