专访亿智电子：大模型端侧落地在即，AI芯片处于需求爆发前夕

作者：李杭森

2023-10-30

相关舆情

AI解读

生成海报

集微网报道，2023年，在国内疫情放开的同时，ChatGPT也在全球范围内掀起了一场技术革命，AI市场吸引了所有科技企业的目光，作为算力基础设施中的核心硬件，AI芯片市场需求持续爆发。

据Gartner预测，2023年AI芯片市场规模将达到534亿美元，比2022年增长20.9%，到2027年AI芯片营收将是2023年市场规模的两倍以上，达到1194亿美元。当然，占据上述AI芯片市场份额的绝大多数为云端芯片，而边缘侧/端侧芯片尚处于大规模爆发前夕。

作为AI产业的深度参与者，亿智电子创始人兼CEO陈峰对集微网表示，目前边缘侧/端侧AI芯片领域仍属于山雨欲来风满楼的状态，其是从2018年逐渐兴起的创新型产业，但疫情三年使得产业链上下游难以实现协同发展，导致芯片商业落地极为缓慢。

值得一提的是，尽管疫情抑制了AI芯片在边缘侧/端侧落地的需求，但AI赋能千行百业已经是行业共识，而亿智电子更是快人一步，其AI芯片累计商业化落地已经千万片，率先在智能车载、智慧安防、智能硬件三大应用领域实现多点开花的局面，并在面向家庭的家用智能门锁、面向办公领域的考勤门禁、面向社区的智能IPC等已经起量的AI应用场景占据了领先地位。

AI商业化落地遥遥领先

事实上，由于人工智能产业尚处于新兴发展时期，市场渗透率极低，其中视觉AI的渗透率更是远低于5%。巨大的市场潜力吸引了包括英飞凌、ST、联发科在内的几十甚至上百家厂商入局边缘侧/端侧AI芯片领域，但面对多元化、碎片化的应用场景，真正实现商业化落地的AI芯片厂商可谓是寥寥无几。

令人欣喜的是，在成立短短7年时间内，国内领先的边缘侧/端侧通用算力AI SoC芯片厂商——亿智电子已经与超3百家客户开展开发合作，其AI芯片实现了数十种智能终端品类的商业化落地。以智慧安防为例，产品涵盖智能IPC、智慧人脸门禁、考勤设备、智能车牌识别设备等；以智能车载为例，产品涵盖智能网约车设备、智能视频部标机、智能后视镜、AI行车记录仪、盲区摄像头等；以智能硬件领域为例，产品涵盖智能家用摄像机、智能门锁、云台等。

当前，市场上的智能产品多为联网设备，在智能化升级方面乏善可陈。不过，智能化发展已经是终端产品打造差异化的唯一发展方向，亿智电子坚定看好智能终端设备的发展前景，致力于人工智能技术的商业化和产品化落地，为万亿设备智慧赋能。

例如，在家庭看护摄像机领域，亿智电子携手合作伙伴推出双向可视AI云台机，可以支持宠物检测算法、婴儿看护系列算法、手势识别或关键字识别算法、老人看护类算法等等，让家用摄像机真正成为守护居家安全的“智慧眼”。

在智能车载领域，亿智电子以自研AI SoC芯片赋能的网约车设备，可以自动识别人的脸部特征、手势和行为、语音等。如在行驶过程中，驾驶员出现打呵欠等疲劳反应，或是打电话等危险行为，智能网约车设备可以马上识别并发出预警，保证司乘人员的安全。

“公司可以提供从0.5T到4T的不同算力芯片，覆盖了主流端侧应用场景，可以帮助客户快速推出不同定位、不同算力的智能终端产品，后续公司也会根据市场需求及时地升级主流算力区间芯片产品。”陈峰自豪地表示，其实目前AI芯片能够真正意义上赋能的应用场景不是很多，产业仍处于酝酿阶段，需要客户和整个产业链不断投入，但亿智电子已经在当前AI视觉芯片能够赋能的应用场景做到了行业绝对头部。

自研NPU打造核心竞争力

集微网观察到，在行业第一的背后，是亿智电子对AI行业深刻的理解及持续不断对核心技术的投入。

与CPU、GPU等发展较为成熟的芯片领域不同，目前AI芯片仍处于发展早期阶段，尚未形成行业标准，这也意味着客户在基于AI芯片开发智能终端设备时，需要高度依赖芯片原厂的支持。

当前市场上的AI芯片厂商虽然都搭载了NPU（神经网络处理单元），但多数厂商是购买第三方企业打造的NPU IP产品，导致芯片原厂非常依赖上游IP供应商，仅凭自身能力无法支持下游客户的开发工作，而上游IP供应商对服务芯片原厂下游客户并不擅长，自然无法顺利完成商业化落地。

早在三四年前，陈峰就曾提出，AI芯片企业一定要自研NPU，只有充分掌握关键核心技术，才能配合下游客户开发出创新型智能终端产品，最终赋能千行百业。因此，为契合市场对于智能化、算力的需求，亿智电子坚持自主研发核心IP，其AI芯片都是搭载自研NPU。

在本次交流中，陈峰再次强调了NPU的重要性，“AI芯片要实现商业化落地的关键要素，在于芯片原厂必须充分掌握AI的加速引擎，自研NPU也是公司在市场上的核心竞争力所在。”

大模型技术加速端侧落地

在沉寂许久后，AI行业终于在今年上半年迎来了以GPT为代表的大模型热潮。虽然当前大模型技术仅用于云端，但业内已经达成共识，随着生成式AI的快速发展，算力会根据应用场景在云、边、端之间形成合理分布，大模型的小型化、专业化也会加速推进，生成式AI的潜在应用场景将不断扩大。

陈峰指出，AI大模型技术在端侧落地有两种方式，第一种是云与端侧协同，在大模型落地的过程中需要解决感、知、决策和反馈四大问题，目前都在云端进行，而云端算力成本相对较高，就需要算力成本较低的端侧AI智能设备来解决感（信息收集）、知（结构化处理）的问题，云端则用大模型技术来解决决策和反馈的问题，充分发挥各自优势，满足不同需求。

以云与端侧协同发展的方式，当前AI大模型技术已经在词典笔、平板电脑等教育类产品上成功落地。以词典笔为例，词典笔进行扫描后，对于一些知识扩展点，通过端侧AI技术实现结构化处理形成文本，再上传至云端，通过大模型技术进行后续处理及反馈，实现云端与终端的协同发展。

“第二种就是大模型的小型化，针对大模型算法本身进行升级优化，通过减少模型的参数量和复杂度，来实现轻量化运算，从而降低对算力的需求。”陈峰预测，在未来的2~3年内，大模型算法有机会实现轻量化突破，真正具备商业价值的大模型小型化才能到来，这对AI大模型技术在端侧的落地至关重要。

事实上，大模型的推出及快速变化带动了各行各业的发展，也使得AI芯片发生变革。

“生成式AI技术主要基于Transformer架构，端侧AI芯片则主要基于神经网络架构，而Transformer架构可以完全取代神经网络架构，且实现的效果更好。因此，AI芯片产品的技术发展趋势也是转向Transformer架构，特别是在云端AI芯片领域。”

展望未来，陈峰表示，大模型、智能看护、教育和工业视觉等将是未来端侧AI蓬勃发展主流方向，公司正在积极投入对大模型技术的研发，也将与方案商、终端客户共同发力，探索大模型在边缘侧、端侧的商业化落地。

责编：邓文标

*此内容为集微网原创，著作权归集微网所有，爱集微，爱原创

专利申请