新民晚报讯(记者 马亚宁)与模型训练相比,AI推理与产业应用关系更为密切,然而AI推理成本高昂。为了解决AI推理的成本问题,实现大模型应用算力普惠,近日,PPIO派欧云发布全新算力云产品——专为AI推理场景设计的Serverless产品,通过算法、系统和硬件协同创新,帮助用户在自定义模型时获得高效的弹性效率和极致的运行成本。
上周,由PPIO派欧云主办的“Power to Pioneers·2024分布式云计算论坛暨 PPIO AI产品发布会”在上海召开。论坛聚焦于分布式云计算的技术创新、产业落地、市场趋势,及其对AIGC规模化应用的推动力。期间,PPIO推出全新的Serverless和模型API服务产品,进一步完善派欧算力云产品矩阵,标志着PPIO的分布式云服务从边缘云延伸到AI基础设施,将为AIGC创新企业和开发者带来更高性价比、弹性、易用的一站式AI基础设施产品和服务。
中国信息通信研究院云大所政企数字化转型部主任徐恩庆在论坛演讲中指出,分布式算力体系已成为支持新一代IT技术发展的关键,生成式人工智能的兴起离不开新一代超大规模分布式算力基础设施的支持。这些设施通过分布式计算确保了人工智能算法的高效运行,同时也需要一个更强大的操作平台来融合异构算力和智算基础设施。
会上,中国信息通信研究院与PPIO派欧云联合多家行业领军企业、科研机构共同启动《分布式算力发展白皮书》研究工作,旨在推动分布式算力技术的发展,为全球数字经济注入新动能。白皮书将系统地阐述了分布式算力的发展背景、核心技术、应用场景、市场趋势以及未来发展方向,全面总结了近年来分布式算力在全球范围内的实践成果与技术突破,为分布式云行业从业者、技术开发者和政策制定者提供清晰的方向指引,推动分布式算力技术的进一步成熟和落地。
PPIO派欧云联合创始人、董事长兼CEO姚欣在主题演讲中指出,遵循尺度定律的基本原理,计算能力将决定大模型创新和应用的上限。在计算资源成本高昂而需求爆增的市场格局下,分布式算力将成为引领下一轮科技革命的重要推动力,正在逐步改变全球计算资源的供给和利用方式。我们的核心理念是利用分布式云的优势,三年实现千倍降本,以算力普惠推动 AI 普惠,助力新时代的开拓者创造出全新的发展机遇。
据介绍,派欧算力云产品可广泛应用于多个场景,提供灵活且高效的解决方案。例如,在中国铁塔的智能算力调度管理项目中,为了实现在城市广泛分布的产业园、写字楼、住宅、文娱和高校等园区进行算力入园的管理服务,PPIO通过打造分布式算力网络,实现不同地区、不同时间、不同业务的弹性算力调度和大模型推理加速,为园区内的AI应用提供高性价比的智算服务,满足智能数据处理、大模型部署、AIGC生成、AI算法加速、渲染加速等一系列应用需求。
“PPIO在分布式云领域的前沿探索和创新实践,不仅展现了技术推动行业变革的深远影响,更预示着一个全新的计算时代的到来。”华中科技大学教授、长江学者特聘教授、中国计算机学会副理事长金海教授说。未来,PPIO派欧云将继续依托产学研深度融合与生态体系共建的优势,基于分布式云打造创新产品服务,持续降低技术基础设施成本,使更多AI企业和开发者能够轻松承担大模型推理的费用和成本,助力企业在AI应用创新中抢占市场先机。