Sam Altman支持的AI处理器公司聘请前苹果高管领导硬件开发

全文2288字,阅读约需7分钟,帮我划重点

划重点

01AI硬件处理器开发商Rain AI聘请前苹果芯片高管Jean-Didier Allegrucci领导硬件工程。

02Allegrucci在苹果工作了17年以上,负责监督30多种处理器的开发。

03Rain AI的内存计算技术有望显著提高能源效率,目前市场上还没有量产的内存计算技术。

04本月早些时候,Rain AI与晶心科技合作,加速其内存计算生成式AI解决方案的开发。

05由于内存计算技术仍处于研究阶段,初创公司们仍在摸索最佳用途。

以上内容由腾讯混元大模型生成,仅供参考

图片
​本文由半导体产业纵横(ID:ICVIEWS)综合
Jean-Didier Allegrucci 加入Rain AI从事硬件研发工作。
图片
由 OpenAI 的 Sam Altman 和投资银行支持的 AI 硬件处理器开发商 Rain AI 已聘请前苹果芯片高管 Jean-Didier Allegrucci 领导其硬件工程。这次高调的招聘表明 Rain AI 对其处理器有认真的计划。
Jean-Didier Allegrucci尚未更新他的LinkedIn个人资料,自2007年6月以来,他在苹果的片上系统(SoC)部门工作了17年以上,并监督了用于iPhone,Mac,iPad和苹果 Watch的30多种处理器的开发。根据 Rain AI 的一篇博文,Allegrucci 在建立苹果世界一流的 SoC 开发团队方面发挥了重要作用,负责监督 SoC 方法、架构、设计、集成和验证等领域,因此,他的经验对 Rain AI 非常有价值。在加入苹果之前,J-D Allegrucci 曾在 Vivante 和 ATI Technologies 工作,这两家公司都是图形处理单元的开发商。
“我们非常高兴能有像J-D Allegrucci这样的硬件领导者来监督我们的芯片工作,”Rain AI首席执行官William Passo说。我们新颖的内存计算(CIM)技术将有助于释放当今生成式AI模型的真正潜力,并使我们更接近在任何地方运行最快、最便宜和最先进的AI模型。
在 Rain AI,Jean-Didier Allegrucci 将与 Rain AI 的首席架构师 Amin Firoozshahian 合作,后者在任职5年后从 Meta Platforms 过渡,这种合作关系结合了深厚的行业经验和创新思维,以推动公司的雄心勃勃的目标。然而,Amin Firoozshahian 和 Jean-Didier Allegrucci 在 Rain AI构建他们的第一个片上系统还需要相当长的时间,这个过程通常需要很多年。
Rain AI 的重点是内存计算技术,该技术在存储位置处理数据,模仿人脑。与传统的人工智能处理器相比,它有望显著提高能源效率。当下,市场上还没有量产的内存计算技术,而英伟达的H100,B100 / B200和AMD的Instinct MI300X是主要应用产品,但这些GPU处理器需要大量的内存配合,才能很好地发挥效能。。
本月早些时候,Rain AI授权晶心科技(Andes)的AX45MPV RISC-V矢量处理器进行ACE/COPILOT指令定制,并与晶心的定制计算业务部门(CCBU)合作,加速其内存计算生成式AI解决方案的开发。此次合作旨在增强 Rain AI 的产品路线图,并在 2025 年初之前提供可扩展的 AI 解决方案。
考虑到从头开始开发复杂处理器通常需要时间,而且 Rain AI 正在责成 Andes 在 2025 年初帮助其构建其第一个 SoC,看起来由 Jean-Didier Allegrucci 领导的处理器开发至少还需要几年时间。
初创公司的内存计算策略
随着人工智能(AI)的繁荣,作为AI基础设施核心组成部分的电力资源正在引起越来越多的关注。毫无疑问的是,AI是一个高耗能的领域,数据中心、超级算力中心都堪称“吞电巨兽”。有专家推算认为,到2027年,AI行业每年的电量消耗可能在85~134太瓦时之间,这几乎相当于荷兰一个国家的年度电力需求。国际能源署(IEA)此前的一份报告也指出,由于人工智能和加密货币的需求,数据中心的用电量将在不久的将来大幅增加。
不少行业大佬也都AI可能面临的能源危机发出警告。今年1月,OpenAI首席执行官Sam Altman承认,AI行业正面临能源危机。他警告称,未来AI需要能源突破,因为AI消耗的电力将远远超出人们的预期。特斯拉首席执行官马斯克在2月底出席一场会议时也表示,芯片短缺的情况可能已经过去,但AI和电动汽车正在以如此迅猛的速度扩张,明年全球将面临电力和变压器供应紧张的问题。英伟达CEO黄仁勋更是直言:“AI的尽头是光伏和储能!如果只考虑计算,我们需要烧掉14个地球的能源,超级AI将成为电力需求的无底洞。”
一个关键原因在于,AI需要大量的数据,而数据在存储芯片和处理器之间来回传输的这一过程需要消耗大量电力。因此,至少十年来,研究人员一直试图通过制造可以在存储数据的地方处理数据的芯片来节省电力。这个过程通常被称为“内存计算”。
内存计算目前仍面临着技术上的挑战,现在刚刚走出研究阶段。而随着AI的高耗能引发了人们对其经济可行性和环境影响的严重质疑,能够提高AI能源效率的技术可能会带来巨大回报。这使得内存计算成为越来越令人兴奋的话题。台积电、英特尔和三星电子等主要芯片制造商都在研究内存计算。OpenAI首席执行官等个人、微软等公司以及不少政府附属实体都投资了从事这项技术的初创公司。
这项技术是否会成为AI未来的重要组成部分还无法确定。通常,内存计算芯片对温度变化等环境因素很敏感,而这可能会导致计算错误。初创公司们正在研究各种方法以改善这一点。然而,更换采用新技术的芯片往往都很昂贵,而且客户通常会犹豫不决,除非他们对重大改进有信心。初创公司也必须说服客户,新技术带来的好处是值得冒险的。
目前,内存计算初创公司还没有着手AI计算中最困难的部分,即训练新模型,这一过程主要由英伟达等公司设计的AI芯片来处理。内存计算初创公司似乎不打算直接与英伟达展开竞争,它们的目标是将业务建立在推理上,即利用现有模型接收提示并输出内容。推理不像训练那么复杂,但其规模也很庞大。这意味着专门为提高推理效率而设计的芯片可能会有一个前景良好的市场。
内存计算公司仍在摸索其产品的最佳用途。总部位于荷兰的内存计算初创公司Axelera正瞄准汽车和数据中心的计算机视觉应用。总部位于德克萨斯州奥斯汀的Mythic的支持者认为,内存计算在短期内是AI安全摄像头等应用的理想选择,但最终希望它们能用于训练AI模型。
*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。