百度大批量发布云计算产品,AI原生应用成关键词

百度大批量发布云计算产品,AI原生应用成关键词
2023年12月20日 21:16 界面

“2024年将成为AI原生应用的元年。”

12月20日,百度集团副总裁侯震宇在百度云峰会上作出了上述判断。在他看来,AI原生与大模型将改变传统云计算产业,MaaS (Model as a Service模型即服务)会成为新的基础服务,而AI原生应用将带来新的研发范式。

传统移动互联网时代的应用底层大多依赖CPU算力,而未来的底层算力需求将逐渐转向以GPU为主。随着AI应用对异构计算的需求大幅增加,云市场的底层算力也将跟随这种趋势,同时导致AI原生应用开发的技术栈、数据流和业务流都发生巨大改变。

一个明显的信号是,三季度,英伟达的营收已经超过了英特尔。侯震宇向界面新闻表示,这预示着未来GPU的增长将远大于CPU。

具体到云计算上,改变将体现在三个方面:面向模型的算力基础设施、面向数据的数据基础设施和面向应用的云基础设施。

百度当天一次性发布和升级了超过20款云计算产品,主要覆盖智能计算、通用计算、数据库、分布式云和应用开发平台等领域,它们基本都用于支撑AI原生应用的落地。

比如在智能计算领域,目前针对大模型训练和推理的计算集群,存在着模型训练时间长、易出错、稳定性差的问题,算力集群的大规模和高复杂度,也极大提升了运维难度。

为此,百度新发布的AI异构计算平台百舸3.0,针对大模型训练和推理环节进行了优化。根据官方数据,新的百舸平台目前万卡级别任务有效训练时长达到98%以上,带宽有效性在95%左右。

在算力供给领域,百度的智算网络平台,支持百度和第三方建设的超算中心和边缘节点等进行接入。百度会将分散和异构的算力资源进行连接,然后统一调配算力给客户。

此外,百度还发布了云原生数据库GaiaDB 4.0,支持跨机多核并行查询,据称可支持PB级数据的复杂分析,将GaiaDB整体性能提升了超过60%。

侯震宇表示,在AI原生的周期中,大模型将由模型即服务(MaaS)平台提供给用户,因此百度对自家的千帆大模型平台非常重视。

据界面新闻了解,千帆平台目前预置了54个主流基础大模型和行业大模型,已经累积为4万家企业提供服务,精调接近1万个大模型。该平台目前有按Tokens计价、TPM计价和算力单元计价等多种收费方式。百度方面称,与企业自建训练大模型相比,千帆平台的训练成本最高能降低90%。

除了底层大模型平台,在前端应用层面,百度千帆AppBuilder平台今日也正式对外开放,提供检索增强生成(RAG)、智能体(Agent)和智能数据分析(GBI)等常用AI原生应用框架。

百度云技术委员会主席孙珂告诉界面新闻,AppBuilder提供代码态与低代码态两种形态。代码态提供包括SDK、开发环境、调试工具和应用示例代码等各种开发套件和应用组件,适合有深度开发需求的用户;低代码态提供的则是可视化工具,用户简单点选就可快速上线AI原生应用。

而在几天之前,百度创始人、董事长兼首席执行官李彦宏也曾在一场活动上提及AI原生应用,表示“一定要去卷AI原生应用,把这个东西做出来,模型才有价值。”

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部