专访亿智电子:大模型端侧落地在即,AI芯片处于需求爆发前夕
2023年,在国内疫情放开的同时,ChatGPT也在全球范围内掀起了一场技术革命,AI市场吸引了所有科技企业的目光,作为算力基础设施中的核心硬件,AI芯片市场需求持续爆发。
据Gartner预测,2023年AI芯片市场规模将达到534亿美元,比2022年增长20.9%,到2027年AI芯片营收将是2023年市场规模的两倍以上,达到1194亿美元。当然,占据上述AI芯片市场份额的绝大多数为云端芯片,而边缘侧/端侧芯片尚处于大规模爆发前夕。
作为AI产业的深度参与者,亿智电子创始人兼CEO陈峰对集微网表示,目前边缘侧/端侧AI芯片领域仍属于山雨欲来风满楼的状态,其是从2018年逐渐兴起的创新型产业,但疫情三年使得产业链上下游难以实现协同发展,导致芯片商业落地极为缓慢。
值得一提的是,尽管疫情抑制了AI芯片在边缘侧/端侧落地的需求,但AI赋能千行百业已经是行业共识,而亿智电子更是快人一步,其AI芯片累计商业化落地已经千万片,率先在智能车载、智慧安防、智能硬件三大应用领域实现多点开花的局面,并在面向家庭的家用智能门锁、面向办公领域的考勤门禁、面向社区的智能IPC等已经起量的AI应用场景占据了领先地位。
AI商业化落地遥遥领先
事实上,由于人工智能产业尚处于新兴发展时期,市场渗透率极低,其中视觉AI的渗透率更是远低于5%。巨大的市场潜力吸引了包括英飞凌、ST、联发科在内的几十甚至上百家厂商入局边缘侧/端侧AI芯片领域,但面对多元化、碎片化的应用场景,真正实现商业化落地的AI芯片厂商可谓是寥寥无几。
令人欣喜的是,在成立短短7年时间内,国内领先的边缘侧/端侧通用算力AI SoC芯片厂商——亿智电子已经与超3百家客户开展开发合作,其AI芯片实现了数十种智能终端品类的商业化落地。以智慧安防为例,产品涵盖智能IPC、智慧人脸门禁、考勤设备、智能车牌识别设备等;以智能车载为例,产品涵盖智能网约车设备、智能视频部标机、智能后视镜、AI行车记录仪、盲区摄像头等;以智能硬件领域为例,产品涵盖智能家用摄像机、智能门锁、云台等。
当前,市场上的智能产品多为联网设备,在智能化升级方面乏善可陈。不过,智能化发展已经是终端产品打造差异化的唯一发展方向,亿智电子坚定看好智能终端设备的发展前景,致力于人工智能技术的商业化和产品化落地,为万亿设备智慧赋能。
例如,在家庭看护摄像机领域,亿智电子携手合作伙伴推出双向可视AI云台机,可以支持宠物检测算法、婴儿看护系列算法、手势识别或关键字识别算法、老人看护类算法等等,让家用摄像机真正成为守护居家安全的“智慧眼”。
在智能车载领域,亿智电子以自研AI SoC芯片赋能的网约车设备,可以自动识别人的脸部特征、手势和行为、语音等。如在行驶过程中,驾驶员出现打呵欠等疲劳反应,或是打电话等危险行为,智能网约车设备可以马上识别并发出预警,保证司乘人员的安全。
“公司可以提供从0.5T到4T的不同算力芯片,覆盖了主流端侧应用场景,可以帮助客户快速推出不同定位、不同算力的智能终端产品,后续公司也会根据市场需求及时地升级主流算力区间芯片产品。”陈峰自豪地表示,其实目前AI芯片能够真正意义上赋能的应用场景不是很多,产业仍处于酝酿阶段,需要客户和整个产业链不断投入,但亿智电子已经在当前AI视觉芯片能够赋能的应用场景做到了行业绝对头部。
自研NPU打造核心竞争力
集微网观察到,在行业第一的背后,是亿智电子对AI行业深刻的理解及持续不断对核心技术的投入。
与CPU、GPU等发展较为成熟的芯片领域不同,目前AI芯片仍处于发展早期阶段,尚未形成行业标准,这也意味着客户在基于AI芯片开发智能终端设备时,需要高度依赖芯片原厂的支持。
当前市场上的AI芯片厂商虽然都搭载了NPU(神经网络处理单元),但多数厂商是购买第三方企业打造的NPU IP产品,导致芯片原厂非常依赖上游IP供应商,仅凭自身能力无法支持下游客户的开发工作,而上游IP供应商对服务芯片原厂下游客户并不擅长,自然无法顺利完成商业化落地。
早在三四年前,陈峰就曾提出,AI芯片企业一定要自研NPU,只有充分掌握关键核心技术,才能配合下游客户开发出创新型智能终端产品,最终赋能千行百业。因此,为契合市场对于智能化、算力的需求,亿智电子坚持自主研发核心IP,其AI芯片都是搭载自研NPU。
在本次交流中,陈峰再次强调了NPU的重要性,“AI芯片要实现商业化落地的关键要素,在于芯片原厂必须充分掌握AI的加速引擎,自研NPU也是公司在市场上的核心竞争力所在。”
大模型技术加速端侧落地
在沉寂许久后,AI行业终于在今年上半年迎来了以GPT为代表的大模型热潮。虽然当前大模型技术仅用于云端,但业内已经达成共识,随着生成式AI的快速发展,算力会根据应用场景在云、边、端之间形成合理分布,大模型的小型化、专业化也会加速推进,生成式AI的潜在应用场景将不断扩大。
陈峰指出,AI大模型技术在端侧落地有两种方式,第一种是云与端侧协同,在大模型落地的过程中需要解决感、知、决策和反馈四大问题,目前都在云端进行,而云端算力成本相对较高,就需要算力成本较低的端侧AI智能设备来解决感(信息收集)、知(结构化处理)的问题,云端则用大模型技术来解决决策和反馈的问题,充分发挥各自优势,满足不同需求。
以云与端侧协同发展的方式,当前AI大模型技术已经在词典笔、平板电脑等教育类产品上成功落地。以词典笔为例,词典笔进行扫描后,对于一些知识扩展点,通过端侧AI技术实现结构化处理形成文本,再上传至云端,通过大模型技术进行后续处理及反馈,实现云端与终端的协同发展。
“第二种就是大模型的小型化,针对大模型算法本身进行升级优化,通过减少模型的参数量和复杂度,来实现轻量化运算,从而降低对算力的需求。”陈峰预测,在未来的2~3年内,大模型算法有机会实现轻量化突破,真正具备商业价值的大模型小型化才能到来,这对AI大模型技术在端侧的落地至关重要。
事实上,大模型的推出及快速变化带动了各行各业的发展,也使得AI芯片发生变革。
“生成式AI技术主要基于Transformer架构,端侧AI芯片则主要基于神经网络架构,而Transformer架构可以完全取代神经网络架构,且实现的效果更好。因此,AI芯片产品的技术发展趋势也是转向Transformer架构,特别是在云端AI芯片领域。”
展望未来,陈峰表示,大模型、智能看护、教育和工业视觉等将是未来端侧AI蓬勃发展主流方向,公司正在积极投入对大模型技术的研发,也将与方案商、终端客户共同发力,探索大模型在边缘侧、端侧的商业化落地。
*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创
美国出口管制新规暴露“战略无能”,未来将成“最大败笔”?
热门评论