郑文先:边缘AI,让智能无处不在|AI观察

全文3199字,阅读约需10分钟,帮我划重点

划重点

01云天励飞副总裁郑文先表示,边缘AI将成为人工智能发展的必要赛道之一,因为其具有成本低、离客户近、可实现定制化与个性化等优势。

02然而,云端大模型在落地过程中面临诸多挑战,如模型幻觉、高昂调用成本、难以实时响应和训练等。

03为此,郑文先认为大模型的应用呈现出向边缘侧逐步靠近的趋势,逐渐下沉至边缘AI。

04另一方面,云天励飞在深圳创业十年,探索出一条通过应用场景落地来倒逼源头创新能力不断提升的道路。

05通过智算中心的建设和运营,云天励飞为生态伙伴提供更多的支持,同时本身的发展也形成了一项业务。

以上内容由腾讯混元大模型生成,仅供参考

图片

编者按 ·  2024.09.26


人类科技文明经历了前所未有的飞速发展。从ChatGPT的横空出世开始,美国科技界的七大巨头竞相推出惊艳世人的大模型技术。大模型的兴起拉开了“百模大战”的序幕,国内外互联网巨头、新兴创业企业以及众多的大型公司纷纷推出各自的大模型产品。


通用人工智能的发展已经深刻改变了我们的生产与生活方式,显著提升了生产效率。云天励飞的郑文先先生以其丰富的创业经验和深刻的行业洞察,从云端大模型面临的挑战出发,为我们揭示了边缘AI崛起的逻辑和必然性。




“暴走”的人工智能

——大模型落地应用面临诸多挑战


在过去的五百多天,人类科技文明经历了前所未有的“飞速”发展。这一时期的起点可以追溯到2022年底——ChatGPT的横空出世。美国科技界的七大巨头竞相推出惊艳世人的大模型技术,而且这些模型还在持续不断地进行迭代升级。英伟达更是一跃成为市值最高的上市公司之一。大模型的兴起不仅推动了英伟达算力芯片需求高涨,还拉开了“百模大战”的序幕,国内外互联网巨头、新兴创业企业以及众多的大型公司纷纷推出各自的大模型产品。


人工智能的发展已经深刻改变了我们的生产与生活方式,显著提升了生产效率。毫无疑问,在当今社会,几乎每个人都能在自己的手机中接触到各类大模型产品,这些产品为人们提供了丰富多样的生成式AI体验。同时,我们也看到了众多科技巨头都已经成为云端大模型市场的主要玩家,并形成三种特征:


第一,大模型之“大”,首先体现在其庞大的参数,动辄数亿乃至几千亿级别;第二,训练如此规模的大模型所需的数据量同样惊人;第三,对其算力要求更是达到了前所未有的高度。然而,尽管云端大模型发展得如火如荼,但步入2024年,我们却观察到一个有趣的现象:大模型创业企业的涌现并未延续去年的“井喷”之势。


如果说2023年是大模型的元年,2024年则是大模型落地、实现商业价值闭环的关键一年。而在过去一年,云端大模型在落地的过程当中遇到了诸多的问题与挑战。第一,大模型尚未克服“模型幻觉”问题,即有时会输出看似逻辑自洽却与事实不符的内容。第二,云端大模型调用的成本高昂,目前还解决不了低成本部署的问题。第三,面对碎片化场景,大模型难以实时响应和训练,它的长尾算法精度没有办法覆盖达到碎片化场景的需求。此外,还有算力需求巨大、信息反馈缓慢、数据隐私和安全、海量数据的质量和准确性难保障等问题。云端大模型在落地过程中还有很多亟待解决的问题。


图片

多模态地理科学大模型“坤元”的运行机房(图源:新华社)


如何破局落地困境


我们怎么解决这个问题呢?怎么突破我们的落地困境?


展望未来,大模型的应用呈现出向边缘侧逐步靠近的趋势,逐渐下沉至边缘AI。边缘AI更靠近场景和应用,也就是更靠近数据采集端和任务执行端。为什么会出现这样的趋势?

首先,边缘AI成本更低。相较于云端而言,具备显著的成本优势,其模型参数更为精简,仅需数十亿的参数模型就可满足客户的需求。这也体现了大模型平民化的发展趋势。

其次,边缘AI离客户更近。鉴于数据隐私和资产保护的重要性,许多用户不愿意把自己的数据传到云端,往往更愿意选择私有化部署方案,而边缘AI恰好能满足用户的这一需求。此外,边缘AI还可以实现定制化与个性化。


再者,边缘AI离场景更近。边缘AI通过低时延、高响应的特性,更好地满足场景的需求。因此,边缘AI不仅是技术落地的必然选择,也是中国人工智能发展的必要赛道之一。


图片

工作人员调试专用于围棋训练的AI机器人(图源:新华社)


在全球人工智能技术与产业的竞争格局中,中国与美国无疑处于第一阵营。然而,两国基于不同的历史背景和积累,采取了截然不同的发展路径。美国凭借其基础研究和大学科研机构的深厚功底,在算法、芯片和人才上是遥遥领先于其他国家。中国则基于统一的大市场等优势,在应用、数据和系统集成层面领先于美国。这六个方面将成为中美在人工智能竞争的过程中不可忽视的六要素。


这一分析框架,源自美国前国防部副部长沃克对中美在人工智能竞争要素的分析定义。美国基于算法、芯片、人才方面的优势,走的是“单体智能”的路线,而中国基于数据、应用和场景方面的优势,走的是“群体智能”的方向,就是通过应用产生数据,数据训练算法,算法定义芯片,芯片赋能应用闭环。而边缘AI就是这样一个在应用场景落地过程中发挥关键作用的技术。


边缘AI赋能智慧城市


基于这样的发展理念,云天励飞在深圳创业十年,探索出一条通过应用场景落地来倒逼源头创新能力不断提升的道路。创业之初,我们便确立了算法芯片化的战略方向,打造深度神经网络的芯片处理器平台。另一方面是视觉语义大模型技术平台。通过两个技术平台,赋能三个业务的板块,从而实现对城市、家庭和个人提供全方位的边缘AI Copilot服务。


在智慧城市行业,聚焦于城市的智能化服务,围绕着智慧公安、城市治理、智慧交通、人居生活、“低空经济”以及智慧教育等多个维度提供解决方案。如今,在深圳打造的相关样板已经走向全国的不同城市。


随着大模型技术的发展,算力将成为众多人工智能企业竞相追逐的宝贵资源。因此,智算运营也是我们的核心业务板块之一。通过智算中心的建设和运营,给我们的生态伙伴提供了更多的支持,同时它本身的发展也形成了一项业务。


此外,大模型技术的发展让我们看到人工智能标准化产品的曙光。基于此,我们携手华为,以及其他生态合作伙伴共同打造了C端和B端相关的各类智能硬件。智能行业、智算运营和智能硬件共同构成了在边缘AI领域的三个主要业务板块。


在智能硬件方面,我们去年成功并购了一家做可穿戴智能设备方案的企业,通过这些可穿戴的设备,把我们的大模型能力与这些设备进行结合。相信在不久的未来,不仅面向工作场景的智能设备将日益普及,智能手表、智能眼镜,甚至是智能戒指等创新产品也将逐步融入人们的日常生活,成为全方位的个人智能助手,助力工作与生活的高效与便捷。


同时,针对B端市场,我们推出了“训推一体机”,该产品可以根据企业自身的数据和场景需求,提供从模型训练到推理部署的一体化服务。这意味着,每个企业都可以训练自己的模型,让自己的模型来服务自身相关的工作流程。此外,通过智算中心的建设,我们致力于提供高质量的算力服务,为生态伙伴搭建起从算力到模型应用的全方位一体化服务平台。


在智慧行业解决方案方面,云天励飞扎根深圳十年。以智慧警务为起点,逐步拓展至更广泛的智慧城市领域。近十年来,深圳各类警情发案率不断下降甚至实现“零发案率”。这背后都离不开我们“深目”AI系统的默默守护,为这个深圳这座城市的平安、为大家的工作和生活提供了智能化保障。今天,这个系统还在国内众多城市的智慧警务领域发挥着重大作用。此外,我们的AI技术还在深圳的智慧公交、智能巡检等领域应用,为降低政府服务部门的运营成本,给老百姓提供更加高效的服务作出贡献。


我们还将智慧城市的演进过程类比为无人驾驶技术的发展,划分为五个等级:信息化、感知智能、机器决策、人机共治、自进化智能体。以此帮助政府管理部门清晰定位自身智慧化建设的当前阶段与未来方向。例如,如今中国80%以上的城市都完成了信息化,二信息化是智能化的前提。到第二个阶段,我们要实现“不用眼”的感知智能。完成了感知智能之后,我们要进入机器决策阶段,用AI代替人来进行决策。实现决策后,再下一个阶段我们要实现人机共治,现在深圳的一些区域已经进入到这一阶段,通过巡视机器人、城管机器人,代替城管队员或是网格员进行社会精细化治理,避免出现许多人与人之间的不必要冲突。最终随着通用人工智能的发展,我们会进入到一个“自进化智能体”的阶段。“自进化智能体”这个概念也被深圳市政府采纳,连续三年写入进政府工作报告,即通过人工智能技术构建鹏城“自进化智能体”的建设。


可以预见,在2028年,超过九成以上的企业都会拥有自己的大模型,我们的工作、生产、生活、流程都会构建在自身大模型的基础上。到2028年,“数字人”的数量很可能会超过人类的数量。到2030年,我们更有理由相信通用人工智能将步入真正意义上的成熟阶段。届时,人工智能的智慧或将超越人脑。


通过边缘AI的发展,我们的愿景是让智能渗透到每一个角落,实现无处不在的智能互联。


图片

公共大数据国家重点实验室算力中心机房(图源:新华社)



*本文由IIA学术编辑组根据郑文先先生在香港中文大学(深圳)前海国际事务研究院主办的百川论坛——第三届中国政治经济学理论与实践“产业与现代化:中国与世界”2024研讨会上的演讲内容整理而成。



本文作者

郑文先:深圳云天励飞技术股份有限公司副总裁。



GBA Review 新传媒

整理|李嘉欣

校对 | 周宇笛

排版 | 许梓烽

  初审覃筱靖

终审 | 冯萧凝