文 | 周鑫雨
编辑 | 邓咏仪
2023年8月16日的百度2023WAVE SUMMIT,构建大模型开发生态的方法论,代替模型本身成了主角。
总体而言,如今百度基于文心大模型的应用落地尝试,是把微软的路子再走了一遍:针对生产力场景发布配套插件和Copilot,同时建设基于云的开发者生态。
比如新发布的5款插件,对应的是Bing和ChatGPT接入的近70款插件;推出的插件开发工具集和AI应用开发套件Comate Stack,对应的是Copilot Stack;上线超级助理等插件的百度智能办公平台“如流”,对应的是接入Copilot的Teams。
旺盛的市场需求和处于高速迭代期的大模型技术,两者构成了大模型落地应用的主要矛盾——客户们急于用大模型提高生产效率,但尚在发展阶段的模型技术迭代速度快,大模型应用落地,首先要面对高昂的迭代成本。
不少厂商找到的解决方案是:插件化。
相较于传统的应用开发流程,插件无需开发一整套完整系统,通过接口就能提供服务,且易于修改和更新。在某种意义上,插件是AI应用创新的最佳载体。
基于这一思路,百度在2023WAVE SUMMIT上,围绕着“插件”,做了从自研,到开发者社区建设,再到落地工作场景的一系列尝试。
生态建设,是百度强调的另一个重点。
随着大模型发展的进度条从研发快速拉到落地阶段,开发者面对的是愈发复杂的产业链条,落地应用也对上下游、软硬件的协同提出了较高的要求。
作为基础设施提供者,百度对飞桨开源框架在大模型训练、推理、硬件适配等方面进行了迭代升级,将文心大模型3.5的训练速度提升至3倍,推理速度提升了30多倍。其目的在于聚集产业链各环节的开发者,基于大模型基座和云平台进行开发生态的建设。
百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜认为,“经历半年的时间,我觉得整个行业的角色分工会逐渐明朗。”
“文心一言”叠加制图Buff,接入5个百度自研插件
除了在8月2日的文心千帆大模型平台媒体圆桌会议上发布的“百度搜索”和“览卷文档”(原ChatFile),此次百度还在文心一言上推出了“E言易图”“说图解画”“一镜流影”三款AIGC插件,分别应用于图表生成、图片生成理解、视频生成场景。
文心一言使用“览卷文档”插件解读文档。图源:百度
文心一言使用“E言易图”插件将文档中的数据生成饼状图。图源:百度
不过,由于能耗较高,视频生成插件“一镜流影”的内测尚未全面进行。未来,文心一言将开放给更多第三方插件。
飞桨“卖水”,推出大模型插件开发平台
以5个自研插件作为开端,百度更想做的,是建立起链接上下游的完整开发者生态。
吴甜认为,目前已经到了建设开发者生态的时机:“一方面,我觉得核心技术系统本身的成熟度要足够,才能去支撑生态的建设,文心一言已经到了这个阶段;另一方面,生态最大的作用是让应用更加繁荣。”
依托于“文心一言”的模型能力,百度面向开发者上线了大模型插件开发平台。平台提供了插件开发工具集(ERINE Bot SDK),可以支持信息服务类、工具类、基于LLM的创新类的插件的研发。
ERINE Bot SDK。图源:百度
与此同时,飞桨AI Studio此次推出了星河大模型社区。这就好比国产版的微软Azure AI Studio,百度作为大模型应用的“卖水人”,为开发者提供开发、部署、市场推广等流程服务。
星河大模型社区。图源:百度
在“如流”上,做提高生产力的文章
什么是AI时代的“杀手级”应用?目前业界或许没有定论。但发展AI原生(AI Native)应用是“杀手级”应用的基础,愈发成为共识。
所谓的AI原生应用,简单理解就是离开AI,就无法提供核心能力的应用——这对开发者无疑提出了更高的要求:对原有应用进行简单迭代是不够的。
在2023WAVE SUMMIT,百度交出的原生AI答卷,点的是重塑生产力的题。在百度智能工作平台“如流”上,百度推出了“超级助理”和“Comate X智能编程助手”。
“超级助理”的功能类似于此前阿里发布的钉钉魔法棒和飞书发布的AI助手“My AI”,可以基于用自然语言输入的需求,完成文档处理、聊天内容查找、信息发送等任务。
“超级助理”完成差旅安排。图源:百度
“超级助理”可对文档进行分析。图源:百度
同理,辅助编程的Comate X也是基于自然语言描述,生成能实现相应功能的代码片段。目前,Comate X支持30多种语言和10多种IDE(集成开发环境)。
针对AI原生应用的开发,百度也建立了开发者生态。此次推出的AI原生应用开发套件Comate Stack,为开发者提供了评测平台iEValue、AI应用开发平台IPlayground和数据集托管平台iDateSet。
值得一提的是,在Comate Stack上进行AI应用开发,自然语言依然是人机交互的界面。比如开发可以执行休假政策的插件,只需要设置Prompt、编排流程两步。
AI应用开发平台IPlayground支持2步生成AI插件。图源:百度
AI应用上线如流,意味着目前两款生产力工具只有百度员工和几家大B客户能够使用。但与此同时,这也是如流积极商业化的信号。
百度集团副总裁、百度集团首席信息官李莹介绍,以超级助理和编程工具链为切口,接下来如流也会加大商业推广力度。