大模型的东风依旧吹不散,AI俨然成为各大互联网厂商大型活动不变的主题,而对于腾讯来说,为AI产业链继续“添砖加瓦”就是当下最重要的任务。
临近旗下混元大模型对外开放一周年,9月5日,在2024腾讯全球数字生态大会上,腾讯云旗下大模型继续迭代,推出新一代大模型“混元Turbo”,性能提升的同时,成本继续降低,该公司顺势宣布了新的调价措施。
与此同时,新一代大模型性能的提升,也对上游算力提出了更高的要求。于是,腾讯云在大模型迭代的同时,还发布了AI infra品牌“腾讯云智算”。至此,腾讯旗下的AI产业链愈加完善。
这背后,一方面是市场对于人工智能和算力需求的快速增长,另一方面也反映出AI与云服务行业市场竞争越来越激烈的现状。作为行业里的领头羊之一,腾讯对市场的反应速度自然应该是“当仁不让”的。
大模型价格继续下调
去年9月举办的2023腾讯全球数字生态大会上,腾讯混元大模型正式亮相,并宣布通过腾讯云对外开放,如今一年过去了,混元大模型不断迭代,已经落地到腾讯700多个业务场景中。
在9月5日-6日举办的2024腾讯全球数字生态大会上,混元大模型继续迭代,新一代大模型“混元Turbo”被推出。据腾讯云官方数据,相比前代模型,腾讯混元Turbo性能有显著提升,训练效率提升108%,推理效率提升100%,推理成本降低50%,解码速度提升20%,效果在多个基准测试上对标GPT-4o。
性能提高的同时,大模型的价格则进一步下调。腾讯公司副总裁、云与智慧产业事业群COO兼腾讯云总裁邱跃鹏宣布,混元Turbo输入和输出价格只有前代模型的一半,目前已经在腾讯云上线,企业和开发者可以通过API、专属模型、精调模型等方式使用混元大模型相关能力。
与今年5月那波降价潮不一样,行业内的大模型降价潮虽然还在继续,但现在业内对这一现象不再用“卷”来形容,成本,才是降价的重要因素。
“大模型的成本降低,一方面是因为英伟达芯片性能提升的同时,价格也有所下调,这构成了大模型降价的主要因素,另外,大模型公司之间的竞争,再加上整体的规模效应,以及一些专利的分享,整个行业得以进步,让整体的研发成本、组织成本和人力成本也进一步降低。” 文渊智库创始人王超对《华夏时报》记者说。
今年6月,智谱AI的CEO张鹏也曾表示,大模型降价是因为技术驱动,技术越来越好,成本越来越低,价格才能持续走低。
这更加有利于大模型的普及和应用。腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示,在国内百模大战与开源大模型的普及下,今天大模型的调用成本已经降得很低了。“如果再加上企业独有的专业文档与行业数据,搭建智能应用或智能助手,很多企业就能在客服、营销与内容创作等场景中,提高员工工作效率,提升服务体验。”
AI infra品牌正式推出
既然是对产业链的补充,除了大模型的迭代,腾讯云自然也需要提高算力。这次大会期间,腾讯云针对AI发布了AI infra品牌“腾讯云智算”。
据介绍,通过整合软硬件技术能力,腾讯云智算集群从机器上架到开始训练还可以做到只需1天,相比业界以月为单位也大为缩短。
大模型的训练和运行需要算力的支持,同时,大模型也是推动算力增长的一大因素。腾讯云副总裁沙开波对《华夏时报》记者表示,AI对云计算产业的推动作用是很大的,腾讯云的很多业务增量也来自于智能计算。“当然,智算是一个比较大的概念,除GPU之外,围绕GPU的存储和网络业务也有很大的增量,因为对于大模型场景来说,算、存、网是一体的。”
沙开波认为,生成式AI发展当前正处于快速发展的阶段,只是相对于技术的全面应用来说,当前所处的阶段相对比较早期,长期来看,其发展是具有确定性的。“一些大模型创业公司,还有头部的一些互联网企业,甚至包括金融、教育机构等不同行业,也在积极探索AI或大模型应用的创新,长期来看,一定会有一个所谓的奇点,能够让这个产业实现大爆发。”
人工智能对智算市场的带动作用已经非常明显了。据国际数据公司IDC近日发布的《中国智算服务市场(2023下半年)跟踪》报告,2023年下半年,中国智算服务市场整体规模达114.1亿元,同比增长85.8%。
事实上,近期AI infra的概念很火,布局这一领域的也不只腾讯一家。就在本周,AI基础设施企业无问芯穹官宣完成近5亿元A轮融资,创下国内AI Infra(大模型基础设施)创业公司最大单笔融资纪录。国内AI Infra领域的创业公司还有硅基流动、清程极智、趋境科技等,这几家公司今年也纷纷获得融资。
与腾讯云智算不同的是,无问芯穹是由Infini-AI异构云平台提供智算云服务,至于腾讯云智算,腾讯云副总裁李力表示,其特点之一是同源同构。
当然,大模型和智算并不是这一产业的全部环节,腾讯已经构建起了全链路的大模型产品矩阵,包括底层基础设施、帮助企业训练专属模型的TI平台和行业大模型解决方案,自研的混元大模型,构建应用的平台工具,以及基于大模型的各类智能应用。
基于这些环节,腾讯大模型的应用场景也在不断丰富。腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声表示,基于全矩阵的大模型产品,腾讯已经服务了众多客户,包括知识管理、智能客服、研发提效、智能营销、内容生成、办公协同、风险管控等场景。
有了AI的加持,腾讯云的业绩也在转好。汤道生称,腾讯云今年毛利不断改善,正在逐步向盈利目标靠近。“我们在财务上还是比较严厉的,提出了比行业内更高的目标,盈亏平衡就是时间问题,我们就在努力的路上。”
腾讯控股今年二季度财报显示,在大模型技术等驱动下,腾讯金融科技与包括腾讯云在内的企业服务板块收入为504亿元,同比增长4%。