12 月 3 日消息,据阿里云官方微信公众号发布,阿里达摩院成功研发出存算一体芯片。这是全球首款基于 DRAM 的 3D 键合堆叠存算一体芯片。该芯片突破了冯?诺依曼架构的性能瓶颈,满足人工智能等场景对高带宽、高容量内存和极致算力的需求。在特定 AI 场景中,该芯片性能提升 10 倍以上,效能比提升高达 300 倍。
为了拉近计算资源和存储资源的距离,达摩院计算技术实验室创新性采用混合键合 (Hybrid Bonding) 的 3D 堆叠技术进行芯片封装 —— 将计算芯片和存储芯片 face-to-face 地用特定金属材质和工艺进行互联。
相比业内常见的封装方案 HBM,混合键合 3D 堆叠技术拥有高带宽、低成本等特点,被认为是低功耗近存计算的完美载体之一;内存单元采用异质集成嵌入式 DRAM ,拥有超大内存容量和超大带宽优势。
在计算芯片方面,达摩院研发设计了流式的定制化加速器架构,对推荐系统进行“端到端”加速,包括匹配、粗排序、神经网络计算、细排序等任务。
这种近存架构有效解决了带宽受限的问题,最终内存、算法以及计算模块的完美融合,大幅提升带宽的同时还实现了超低功耗,展示了近存计算在数据中心场景的潜力。
达摩院表示,最终的测试芯片显示,这种存算技术和架构的优势显著,能通过拉近存储单元与计算单元的距离增加带宽,降低数据搬运的代价,缓解由于数据搬运产生的瓶颈,而且与数据中心的推荐系统对于带宽/内存的需求完美匹配。
目前,该芯片的研究成果已被芯片领域顶级会议 ISSCC 2022 收录。