本文由半导体产业纵横(ID:ICVIEWS)编译自CRN
从Celestial AI到Untether AI,这些新兴公司都想要挑战英伟达在人工智能计算领域的老大位置。
尽管英伟达每个季度在人工智能芯片领域的投资高达数百亿美元,但众多企业及投资者依然认为,人工智能基础设施市场尚存其他潜在竞争者的空间,无论是边缘计算芯片还是数据中心芯片。
英伟达可能面临来自AMD和英特尔的激烈竞争,以及其主要云计算合作伙伴亚马逊网络服务、微软Azure和谷歌云的挑战,这些企业正致力于开发自有品牌的人工智能芯片及其他自主硅片技术。
此外,该人工智能计算领域的领军企业亦需应对一批新兴企业家及投资者的竞争,他们依托创新的设计技术,推出新型芯片解决方案,并积极推广其在人工智能计算速度及效率方面的优势。
在这些努力中,包括Hailo、SiMa.ai和Untether AI等专注于边缘市场的半导体初创公司,以及致力于为AI数据中心研发芯片的d-Matrix、Groq Tenstorrent等企业,均扮演着重要角色。
竞争并非唯一焦点。诸如Enfabrica和Lightmatter等半导体初创公司,正在致力于开发能够加速AI服务器间数据传输速度的互补芯片技术。
以下是CRN所评选出的2024年十大备受瞩目的半导体初创公司,除了前述的初创企业外,还包括Celestial AI和Etched等公司。
Celestial AI
Celestial AI 表示,其光子结构光学互连技术克服了延迟和带宽瓶颈,为人工智能计算的进步铺平了道路。
这家初创公司今年 3 月份宣布,已完成 1.75 亿美元 C 轮融资,该轮融资金额“大幅超额”,由美国创新技术基金领投,其他几家投资者也参与其中,其中包括 AMD 的风险投资部门、三星以及大众集团的控股公司保时捷 SE。
同月,该初创公司表示,超大规模公司(全球最大的数据中心基础设施消费者)和半导体公司“目前正在设计光子结构光学芯片,作为技术采用的初始阶段”。
随后在 10 月,Celestial AI 宣布已从硅光子学先驱 Rockley Photonics 收购知识产权。据 Celestial AI 称,这笔交易包括已发布和正在申请的硅光子学相关专利,这让这家初创公司“拥有了用于光学计算互连的硅光子学领域最强大的知识产权组合之一”。
D-Matrix
D-Matrix 表示,其新颖的数字内存计算 (DIMC) 架构正在打破生成式 AI 推理工作负载的内存带宽障碍。
这家初创公司得到了微软、三星电子和爱立信的风险投资部门的支持,该公司于 11 月宣布推出其首款产品 Corsair PCIe 卡,该产品使用 DIMC 架构“与 GPU 和其他替代方案相比,具有业界领先的实时性能、能源效率和成本节省,可加速 AI 推理工作负载”。
PCIe 卡现已开始向客户提供样品,并将于明年第二季度在 OEM 和系统集成商的支持下全面上市。支持 Corsair 的供应商包括 Supermicro、GigaIO 和 Liqid。
Enfabrica
Enfabrica 表示,它正在为 GPU 服务器提供业内最快的网络接口控制器芯片,其硅片是专为满足 AI 数据中心的需求而打造的。
这家初创公司于 11 月宣布,已完成 1.15 亿美元的 C 轮融资,用于推动其加速计算结构 SuperNIC 芯片的商业化。该公司表示,该芯片将于明年第一季度在试点系统中投入使用,届时将实现“突破性的” 3.2 TB/s 带宽。
ACF SuperNIC 在单个芯片上支持 800、400 和 100 千兆以太网接口以及 32 个高基数网络端口和 160 个 PCIe 通道,这使得超过 500,000 个 GPU 的服务器集群能够使用两层网络设计来实现“集群中所有 GPU 的最高横向扩展吞吐量和最低的端到端延迟”。
Etched
Etched 表示,它将整个商业模式押注在所谓的世界上第一个基于变压器的 AI 模型专用芯片上。
这家初创公司 6 月份宣布,已从多位投资者处筹集了 1.2 亿美元的资金,其中包括 PayPal 联合创始人 Peter Thiel、Fontinalis 和 Skybox Data Centers。
该公司在一篇博客文章中声称,在基于变压器的模型(例如大型语言模型)方面,其搜狐芯片将“比 英伟达的下一代 Blackwell B200 GPU 快一个数量级且更便宜”,但它无法运行任何不基于变压器架构的模型。
Groq
Groq 表示,其语言处理单元通过其云服务和内部计算集群实现了极快的 AI 推理性能。
这家初创公司于 8 月宣布,已完成 6.4 亿美元的 D 轮融资,估值达 28 亿美元,领投方为贝莱德私募股权合伙人管理的基金和账户。其他投资者包括思科系统和三星电子的风险投资部门。
早在 5 月份,Groq 就宣布已与美国解决方案提供商巨头 Carahsoft 达成分销协议,以面向公共部门客户。随后在 9 月,该公司宣布已与中东石油巨头阿美公司的数字和技术子公司签署了一份谅解备忘录,以“在沙特阿拉伯王国建立世界上最大的推理数据中心”。
Hailo
Hailo 正在通过加速边缘生成 AI 工作负载的芯片与 英伟达展开竞争,据称该芯片在优化成本和功耗性能方面处于领先地位。
这家初创公司 4 月份宣布,它从投资者那里筹集了 1.2 亿美元,作为其 C 轮融资的延伸,同时推出了新的 Hailo-10 加速器芯片,该芯片可以使个人电脑和汽车信息娱乐系统等设备“以最小的功耗实现最大的 GenAI 性能”。
该公司还宣布了多项合作,包括与 Raspberry Pi 达成协议,为 Raspberry Pi AI Kit 提供芯片,与 Adlink Technology 达成协议,将其 Hailo-8 芯片整合到边缘计算平台,以及与 SolidRun 达成协议,将其 Hailo-15H 整合到用于 AI 视觉应用的系统模块解决方案中。
Lightmatter
Lightmatter 表示,它正在利用 3-D 堆叠光子芯片重塑 AI 基础设施,这可以大幅提高 AI 集群带宽和性能,同时降低能耗。
这家初创公司于 10 月宣布,它以 44 亿美元的估值完成了 4 亿美元的 D 轮融资。此轮融资由 T. Rowe Price Associates 提供咨询的新投资者领投,其他投资者包括谷歌的风险投资部门和富达管理与研究公司。
该公司表示,计划利用这笔资金为 Passage 光子芯片做好准备,以便“在合作伙伴数据中心大规模部署”。该公司还补充说,该芯片是“第一款以 3D 方式提供 I/O 的光子引擎”,预计将为 GPU 和其他类型的处理器“腾出空间”,以“支持更多内存”。
SiMa.ai
SiMa.ai 希望利用强大而高效的芯片取代 英伟达在边缘生成 AI 领域的地位,据称该芯片可以在一个“以软件为中心”的平台上处理各种各样的模式。
这家初创公司 9 月宣布,预计将于今年年底开始向客户提供其新款 MLSoC Modalix 系列芯片的样品,该系列芯片支持卷积神经网络、Transformer、大型语言模型、大型多模态模型和其他类型的边缘生成式 AI 模型。该公司还补充说,这些芯片的每瓦性能比其他芯片高出 10 倍。
SiMa.ai 在 4 月份表示已从包括戴尔科技集团风险投资部门和 Cadence 设计系统公司执行董事长 Lip-Bu Tan 在内的投资者手中筹集了 7000 万美元资金,随后宣布推出新的边缘 AI 芯片产品系列。
该公司今年已宣布了多项合作以实现其芯片商业化,包括与 Lanner 达成协议将其芯片集成到边缘 AI 设备中;与 Arrow Electronics 达成针对欧洲、中东和非洲的分销协议;以及与 Cvedia 和 Supermicro 达成协议,提供具有 AI 视频分析功能的边缘设备。
Tenstorrent
Tenstorrent 正在为人工智能计算的芯片设计开辟一条新道路,其商业模式是销售专用处理器、授权芯片技术供他人使用以及与其他公司合作开发计算解决方案。
这家初创公司于 11 月宣布与韩国 AI 软件公司 Moreh 建立战略合作伙伴关系,以在 AI 数据中心市场挑战英伟达。两家公司正在开发一种解决方案,将 Tenstorrent 的神经处理单元与 Moreh 的软件相结合,以支持广泛的 AI 应用,包括大型语言模型推理和训练。
今年 2 月,该公司宣布与日本尖端半导体技术中心达成“多层次合作协议”,后者计划利用 Tenstorrent 的 RISC-V 和小芯片技术开发其 2 纳米边缘 AI 加速器。这家初创公司还将担任该芯片的联合设计合作伙伴。
Tenstorrent 今年还宣布与 SingularityNET 合作开发针对通用人工智能优化的硬件和软件架构,并推出基于其 Wormhole 处理器的开发套件和工作站。
Untether AI
Untether AI 表示,其新芯片为在边缘和数据中心运行的应用程序提供了“世界上速度最快、最节能的 AI 推理”性能。
这家初创公司由前英特尔高管克里斯·沃克 (Chris Walker) 领导,该公司于 10 月宣布推出 speedAI240 Slim AI 推理加速器卡,并表示“该卡最近被公认为在同行评审的 MLPerf 推理基准上实现了全球最低延迟和最高吞吐量。”
8 月,该公司宣布与印度 AI 云、模型和服务提供商 Ola-Krutrim 建立“多方面合作伙伴关系”,其中包括“共同开发 Untether AI 的下一代数据中心解决方案,用于 Krutrim 生成 AI 模型的推理部署和微调”。
*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。
原文标题 : 2024年10家热门的半导体初创公司