生成式AI手机的灯塔!在MDDC 2024大会上点亮

AIGC概念的火爆并非一夜兴起,而是一个水到渠成的结果。
事实上,AI技术已经发展了将近70年,无论手机行业还是PC行业,研究、部署AI都已经很多年了,多款处理器也以集成AI处理引擎的方式得以应用,最直观的手机影像就是如此。
ChatGPT作为AIGC的引爆点,之所以能引领这一波浪潮,就在于它和诸多AIGC应用一样,在整个AI的历史上,第一次让普通人也真切感受到了AI给生活、工作带来的变革性新体验,AI不再是高高在上的技术概念,而逐渐成为人们日常的一部分。
当前,AIGC目前仍处于一个初级发展阶段,如何设计并最大化发挥硬件算力,如何在更多应用场景中提升用户体验,都需要各大芯片、终端、产业伙伴一同深入思考和践行。
图片
【智能手机:生成式AI的最佳载体】
联发科举办的首届天玑开发者大会2024(MDDC 2024)上,就尝试以生成式AI手机为载体,深入研讨生成式AI技术为移动生态带来的变革与机遇,联合行业共同探寻端侧AI的发展之路。
会上,联发科与天玑平台合作伙伴共同启动了“天玑AI先锋计划”,并发布了生成式AI端侧部署解决方案“天玑AI开发套件”,为开发者提供全方位的支持与辅助;
联合业界生态伙伴发布了《生成式AI手机产业白皮书》,共同定义什么才是生成式AI手机;
发布了新一代旗舰5G生成式AI移动芯片天玑9300+,凭借领先的全大核架构设计、生成式AI能力提升端侧AI体验;
展示了基于天玑平台的全场景创新应用落地,以及基于联发科星速引擎技术的全新游戏体验。
图片
AI的基础是硬件,是算力,在任何平台上都是如此,而手机硬件和算力正在井喷式提升,为高效运行参数规模日益膨胀的大模型、流畅运行各种生成式AI应用,提供了扎实的基石,尤其是在端侧执行AI推理非常合适。
根据Counterpoint的估算,到2027年,生成式AI手机端侧整体AI算力将超过50000 EOPS。(数据来源:《生成式AI手机白皮书》P25)
同时,智能手机在用户规模、生态规模、使用粘性上的优势是其他任何设备都无法比拟的,估计2024年全球智能手机用户可达约50亿,平均每人每天使用约4小时,APP应用数量则多达约893万。
联发科技董事、总经理暨营运长陈冠州在MDDC演讲中指出,生成式AI彻底革新了终端应用的使用价值,而智能终端是生成式AI普及的关键载体。
要知道,基于联发科平台的智能终端设备每年就有大约20亿的规模,因此在推进端侧生成式AI方面,联发科是最有话语权的厂商之一。
但为什么端侧需要生成式AI?云端难道就不可以?联发科技无线通信事业部副总经理李彦辑认为,在端侧做生成式AI自然有它的好处,比方说隐私保护,用户的很多东西不想上云,企业的很多东西不能上云,恰好即使没有网络,端侧大模型也能很快地进行用户交互。
同时,手机是用户每天都带在身边的,它有天生的多模态优势,有文字,有声音,有影像,这些交互都是最自然的,在端侧做生成式AI也是很自然的。
对于什么才是生成式AI手机,目前还没有统一的行业标准,联发科敢于突破这一局面,联合生态伙伴发布的《生成式AI手机产业白皮书》,共同定义生成式AI手机概念和典型特征。
从概念上看,生成式AI手机能够利用大规模、预训练的生成式AI模型,实现多模态内容生成和情境感知,并具备不断增强的类人能力。
从特征上看,生成式AI手机在计算平台、NPU单元、内存、连接、安全防御等方面提供完善的硬件支持,能够在端侧支持AI大模型的本地部署,支持多模态内容的输入输出,最终达成自然和直观的交互方式、流畅和无缝的用户体验。
图片
这份白皮书并未定义生成式AI手机的明确硬件算力、模型参数、内存等的具体指标,对此联发科技无线通信事业部副总经理陈一强解释说,这主要是因为在生成式AI发展早期,要想确定达到什么样的能力才叫AI手机,是比较困难的,比如最新的20亿参数大模型就比半年前的70亿参数大模型更聪明,AI能力更强。
因此在这种情况下,陈一强认为,使用TOPS算力或者某项具体功能去定义AI手机,在一个新时代刚开始的时候并不是一个好的方式,更希望首先明确AI手机未来能力的规划方向,而且是和所有的生态厂商一起合作,让各种概念真正落地,更希望应用厂商可以根据《生成式AI手机产业白皮书》的大方向,把定义的生成式AI手机变成现实。
联发科技无线通信事业部副总经理李彦辑很有信心地表示,生成式AI在手机端还是萌芽的阶段,去年已经开始,今年可以达到准备起飞的阶段。
【软硬兼施:联发科引领移动端侧生成式AI】
李彦辑指出,早在2015-2016年行业广泛讨论AI的时候,联发科就看到了这股新的科技趋势,思考能不能在端侧抓住这一机会,而当谷歌2017年提出Transformer算子的时候,联发科就意识到不同于以往的分析式AI,新的生成式AI或许会成为AI领域的一个新的分水岭。
2018年前后,联发科率先将具备AI能力的硬件处理器搭载在其芯片上,最初的应用主要是摄影计算光学的加速,同时也意识到必须要提早布局新的算法、算子,应对未来可能的新应用。
联发科技无线通信事业部技术规划总监李俊男表示,ChatGPT看起来是突然出现的,但以技术发展路线来看,它离不开前期的积累,这就是所谓的技术持续投资,是科技公司必须做的事情。
图片
在意识到端侧生成式AI的前景之后,联发科勇敢地担起了行业革新领导者的角色,联合定义生成式AI手机也只是第一步。
眼下,端侧生成式AI的开发充满多元化、复杂度高的挑战,比如每年上市的智能手机都有上百部,大模型已经有上百种,而终端应用更是有上百万款之多,很容易让开发者无从下手
天玑AI先锋计划的推出,就是希望与率先起步、有明确指标性的开发者联合起来,加速推动整个生态向生成式AI迁移。
首先是联合大模型厂商、OEM终端厂商,提供硬件和算力基础,其次联合APP开发者,为他们提供资源,高效赋能,推动生成式AI技术在智能终端上的应用普及。
图片
所谓工欲善其事,必先利其器。无论终端还是应用开发,都离不开丰富、强大、便捷的开发资源,天玑AI开发套件正应运而生。
联发科此前提供的NeuroPilot已经是一个不错的开发工具,但在生成式AI快速发展的背景下,必须与时俱进,尤其是大模型的部署并不容易。
因此,联发科就把所有可以利用的工具集结在一起,打造了天玑AI开发套件,包括快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术、Neuron Studio 一站式视觉化开发环境。
这样一来,就可以为开发者提供一站式解决方案,提供“快、全、强、易”的专业开发体验,加速终端生成式AI应用的开发全流程。
它和以往最大的不同,就是把分散的各项开发工具整合、优化为一个整体,让开发者通过最简单的方式高效使用,未来也会不断扩充升级。
图片
硬件层面上,联发科天玑平台率先在端侧集成了AI处理器APU,内建生成式AI引擎,提供最高效的加速,而且持续演进,能力越来越强,规模也越来越庞大。
天玑9300就将APU引擎发展到了第七代(APU 790),在行业内率先通过LoRA Fusion融合支持生成式AI在端侧的LoRA融合,率先支持内存硬件压缩技术,率先在端侧运行130亿参数大语言模型,率先在芯片上运行330亿参数大语言模型……
最新的旗舰5G生成式AI移动芯片天玑9300+,不但有着更高的性能,更率先带来了端侧AI推测解码加速技术、双LoRA融合技术、Llama 2 70亿参数大模型高速运行等等,再结合MAGT自适应技术软件开发套件、硬件光线追踪技术软件两大开发套件,为开发者提供顶级的端侧生成式AI开发平台。
面向未来,全新的下一代天玑移动平台,也正呼之欲出。
图片
【爆品应用在哪里?】
说一千道一万,任何一项技术要想普及,最根本的还是在生态应用方面全方位落地,在不同的生活、工作、娱乐等场景中切实变革体验。
通俗地讲,就是得让任何普通人都能感觉出来你是真正有用的,无论是让生活更轻松,还是让工作更高效,你得和以往不一样,生成式AI更是如此。
显然,这不是一家厂商甚至一个领域能完成的,需要集合整个产业的力量,集合芯片、终端、系统、大模型、应用等各方合作伙伴的力量,形成一个庞大、完整的“朋友圈”,劲儿往一处使,才有希望完成。
图片
我们欣喜地看到,在端侧手机上部署落地生成式AI的厂商和应用正呈现爆发趋势,大家日常高频使用的很多应用,甚至是一些国民应用,都在快速跟上这一趋势。
比如抖音的AI实时特效和快速文生图,虎牙直播的AI实时换脸,酷狗音乐的歌词生图、快速配图、手动生图等,全民K歌的歌曲生成,Soul APP的LoRA多模态AI情感陪伴,阿里云通义智能体的感知决策和执行,火山引擎的AI创作套件,《逆水寒》的光线追踪,《王者荣耀》的AI私教,等等。
图片
图片
当然,很多人还在期待新的爆款应用,就像微信、抖音开启一个新时代一样,生成式AI似乎也需要一个这样的标杆。
在联发科技无线通信事业部生态发展资深总监章立看来,这样的爆款应用“会有”,因为生成式AI给了开发者新的机会,不像影像、折叠屏那样似乎卷不动了,而是带来了更多的工具,更大的创新空间。
他相信,未来一定会有创新的爆品涌现出来,只是无法确定具体是什么时间,就像没有抖音的时候,我们不会想到有抖音。
他还指出,在看待生成式AI应用的时候,可以分为两个维度,一是存量头部APP,通过自我革新实现AI化,二是新出现的APP,天生就以AI为导向。联发科也正在积极关注,相信爆品就在其中。
联发科技无线通信事业部副总经理陈一强则对互联网公司非常看好,因为他们非常有活力和想法,联发科正在做的事情就是给予他们强大的的开发工具,帮助他们创造出新的热门应用。
其实大家也不必过于纠结爆品的出现,因为如果一项技术能带来创新的用户体验,全场景的革新比单独一个爆品更有实际意义。
图片
【结语】
如果说,以往的联发科更多的是作为技术领导者提供基础硬件平台,那么从现在开始,联发科的角色已经变了。
未来,联发科更多的是作为移动行业的科技革新领导者,与终端厂商、生态开发者,共同推进端侧生成式AI的创新发展。
无论是为整个行业指明方向的生成式AI手机定义,还是指引开发者的天玑AI先锋计划;亦或者是性能强大、技术领先的天玑9300+旗舰平台,和功能丰富、使用便捷的天玑AI开套套件,以及日渐丰富的生态落地,联发科在新角色上的第一步,就走得极为扎实,处处都点中了当下的痛点,都给出了极具针对性的解决方案。
通过这次天玑开发者大会,联发科将手机终端厂商、大模型厂商、应用开发厂商等行业伙伴紧密聚拢在了一起,共同发挥特长,在各自的领域集体发力,推动整个AI产业,尤其是端侧生成式AI手机的快速发展。
AI手机还很稚嫩,但相信会有无比光明的未来。一切就交给时间来验证吧。
图片