芝能智芯出品
在半导体行业，尤其是处理器领域，我们正目睹着一场由两大关键趋势驱动的重大变革：芯片组(Chiplet)的采用和生成式人工智能(Generative AI)的兴起。
Yole Group提供了Emilie Jolivet在2024年3月的演讲《Generative AI and Chiplet: Deep impacts on the semiconductor industry》，本来来分析和探讨一下。
Part 1
生成式AI正在改变我们的工作方式，不仅能够生成文本和图像，还能协助律师、建筑师、医生等专业人士提高工作效率。基于生成式AI的工具预示着内容生产的爆炸性增长，并重新定义了工作的价值。
NVIDIA的H100 GPU采用了TSMC的CoWoS-S技术和6个HBM内存，是市场上首款使用HBM3的产品，提供了比前代A100 GPU多两倍的DRAM带宽，NVIDIA还为中国市场设计了A800和H800，这些产品同样采用了TSMC的CoWoS-S技术。
● 芯片组（Chiplet）：处理器行业的新趋势
芯片组技术允许将SoC（System on Chip）单片分割成更小的芯片，这些芯片具有不同的功能，并在同一封装内互连。这种设计不仅提高了性能和产量，还为未来的AI芯片设计铺平了道路。
● 高带宽存储器（HBM）：市场和技术路线图
HBM作为一种高性能内存技术，其市场和技术发展路线图显示了从HBM2到HBM3，再到预期在2024年下半年发布的HBM4的演进。SK海力士在2022年下半年推出的HBM3产品获得了显著优势。
Part 2
AI加速器对先进IC基板提出了更高的要求，包括更大的尺寸、更高的层数和新材料的应用。玻璃基板因其更小的特征尺寸、更少的层数和更优越的热导率而成为解决数据中心热管理问题的一个有前景的候选材料。
据Yole Group预测，数据中心的AI处理器将在未来3到5年内引领半导体行业收入增长，到2029年将超过2300亿美元。同时，HBM市场预计将在2024年增长三倍，达到140亿美元。中国的处理器和存储器生态系统正在加强，涌现出许多值得关注的初创公司。
● 数据中心的人工智能处理器将在未来 3 到 5 年内领导半导体收入，到 2029 年可达 2300 亿美元。
● 到 2024 年，高带宽内存（HBM）市场将增长三倍，达到 140 亿美元。
● 中国的处理器和内存生态系统正在壮大，值得密切关注大量初创企业。
● 未来人工智能芯片设计将采用芯片片段设计和先进封装技术，如英伟达 B100。
未来关注的重点：
● 数据中心人工智能处理器的发展，其对半导体收入的贡献将继续增长。
● 高带宽内存市场的增长速度，特别是在 2024 年之后的趋势。
● 中国的处理器和内存生态系统的发展，包括关注新兴初创企业的表现，特别关注设计和先进封装技术在未来人工智能芯片中的应用。
随着生成式AI和芯片组技术的不断进步，我们有理由相信，这些创新将深刻影响半导体行业的发展，推动新的技术革命，并为我们的生活和工作带来前所未有的变革。