中国 2024年03月18日——人工智能芯片研发及基础算力平台公司爱芯元智宣布,以“开放·连接”为主题的第二届玄铁RISC-V生态大会于03月14日在深圳举行,爱芯元智联合创始人、副总裁刘建伟受邀发表主题演讲,向与会嘉宾分享了爱芯通元混合精度NPU这一面向边端侧算力布局的AI处理器,以及基于RISC-V生态所进行的AI算力提升及行业落地探索。
同时,大会还公布了“玄铁优选伙伴”,爱芯元智等8家公司入选。据悉,该项荣誉旨在推动玄铁生态成果落地,连接RISC-V产业链生态网络,促进玄铁商业生态发展。此次入选,代表着爱芯元智对玄铁RISC-V生态做出的贡献得到肯定。
AI无处不在,RISC-V为AI计算添动力
从以ChatGPT为代表的云端大模型,到边缘侧的计算盒子和散布于端侧的各个摄像头,伴随着技术的快速发展,AI已经无处不在。智能驾驶、智能机器人、智慧工厂、智慧城市、智能零售等多个端侧业务场景下,AI都开始发挥作用,为各行各业带来了生产力的提升。
作为支持边缘侧和端侧智能的平台型芯片公司,爱芯元智以“普惠AI 造就美好生活”作为企业使命,专注于高性能、低功耗的人工智能视觉处理器芯片研发。刘建伟介绍,爱芯元智的系列芯片产品已在AIoT、ADAS两大产品线得到广泛应用并实现稳健发展,推动AI在边缘侧和端侧的部署落地。
但AI在边端侧的落地,也意味着更高的算力需求。对此,精简、灵活、高效的RISC-V指令集架构展现出了其优势,有望成为万物互联时代核心处理器的架构之一。作为本次玄铁优选伙伴,爱芯元智也在现场分享了基于玄铁RISC-V所进行的行业落地实践,如面向物联网领域,爱芯元智通过应用玄铁RISC-V处理器,并结合爱芯智眸AI-ISP和爱芯通元混合精度NPU两大自研核心技术,实现了快速低功耗AI检测唤醒,可大大降低系统耗电,轻松应对电池类产品需求。
同时,爱芯元智还通过爱芯通元混合精度NPU与玄铁RISC-V IP的结合,打造出高能效AI计算平台,实现了图形分割、以文搜图等大算力应用,满足边端不同场景下对感知、计算和数据处理能力的需求。
打造原生AI处理器,携手玄铁RISC-V重塑千行百业
算力是AI的基础,那么AI时代,我们究竟需要什么样的算力基建?
刘建伟指出,当下,AI程序的计算密度变得更高,呼唤着NPU这一新的处理器出现,“作为AI专用处理器,NPU应该有自己的指令集,而不是被简单理解为加速器或是扩展指令集。”其表示,在AI计算中,指令操作的对象变成了高维的张量,因此整个处理器的能耗需要放在数据计算上,且降低数据搬运和整理组合的能耗。而从推理的角度来看,大部分AI的算法/算子已处于收敛状态。因此,以算子这一AI模型的基本运算单元为指令集进行NPU设计,可以打开硬件微架构设计空间,从而有更多的设计思路可以使用,提高能效比。
而作为爱芯元智自研核心技术,爱芯通元混合精度NPU即是以算子为原子指令集的AI计算处理器,其采用多线程异构多核设计,实现算子、网络微结构、数据流和内存访问优化,高效支持混合精度算法设计,原生支持Transformer网络结构,为大模型在边缘侧、端侧的应用提供了良好的基础。
同时,爱芯通元混合精度NPU还提供成熟易用的编译器,从而大幅度降低AI软件的开发、部署成本,助力客户在一小时内快速上手,推动AI计算的蓬勃发展。
从AI处理器在视觉领域的评价指标来看,爱芯通元混合精度NPU也表现出色,其在运行SwinT时,量化精度达到了高于市面平均水平的80.45%,并有着416 FPS的高性能和199FPS/W的低功耗。
为满足多样化的AI计算需求,作为AI处理器的NPU还需要更加灵活的动态控制,这也正是爱芯元智与玄铁RISC-V展开深度合作的原因。据介绍,爱芯元智正在探索基于玄铁RISC-V主控和爱芯通元混合精度NPU,打造生成式AI解决方案。“我们希望携手玄铁RISC-V打造AI硬件的最优平台选择,把AI落到千行百业,助力更多客户提升效率,创造价值。”刘建伟表示。
关于爱芯元智:
爱芯元智半导体股份有限公司成立于2019年5月,致力于打造世界领先的人工智能感知与边缘计算芯片,服务智慧城市、智能驾驶、机器人以及AR/VR等巨大的边缘和端侧设备市场。公司自研两大核心技术——爱芯智眸AI-ISP和爱芯通元混合精度NPU,在过去的四年时间里,完成了四代多颗智能芯片产品的研发和量产工作。爱芯元智秉承“普惠AI,造就美好生活”的使命,以“构建世界一流的感知与计算平台”为愿景,致力于成为物理世界数字化入口,为不同行业提供人工智能的基础算力平台,使智能真正触手可及。
原文标题 : 爱芯元智入选2024玄铁优选伙伴:发展AI计算,携手RISC-V重塑千行百业