百度百舸AI计算平台4.0发布：模型训练有效时长达99.5%

摘要： 中甲第轮的比赛全部结束现场观众人数方面大连英博主场梭鱼湾人居首再度刷新中甲现场观众人数纪录本轮场均观众人数为人辽宁铁人延边龙鼎人大连英博石家庄功夫人南京城市无锡吴钩人重庆铜梁龙云南...

中甲第23轮的比赛全部结束，现场观众人数方面大连英博主场梭鱼湾56595人居首，再度刷新中甲现场观众人数纪录。本轮场均观众人数为11743人。辽宁铁人2-1延边龙鼎：15439人大连英博1-1石家庄功夫：56595人南京城市1-1无锡吴钩：2217人重庆铜梁龙3-2云南玉昆：8533人广州1-1苏州东吴：5622人佛山南狮1-1广西平果哈嘹：3162人青岛红狮1-2江西庐山：1196人上海嘉定汇龙0-0黑龙江冰城：1180人

9月25日消息，在2024 云智大会上， 智能云宣布将百舸AI异构计算 升级至4.0版本。升级后的，围绕落地大模型全旅程的算力需求，在集群创建、开发实验、模型训练、模型推理四大方面，为企业提供“多、快、稳、省”的AI基础设施。

为了 算力资源短缺的问题，百舸4.0对“多芯混训”能力进行了重点升级，实现了在万卡规模集群上95%的多芯混合训练效能，达到业务最领先水平。

在集群部署环节，升级后的百舸能够实现工具层面的秒级部署，将万卡集群运行准备时间从数周最快缩减至1小时，极大地提升部署效率，缩短业务上线周期。

针对大模型训练过程中故障频发的问题，百舸4.0 升级了故障检测手段和自动容错机制，可以有效降低故障发生频次，大幅减少集群故障处置时间，在万卡集群上实现了超过99.5%的有效训练时长。

在模型推理上，最重要的是速度和成本。现在长文本推理逐渐成为主流，百舸4.0整体上做了推理速度和成本优化，长文本推理效率提升了1倍以上。（定西）

本文来自 科技报道，更多资讯和深度内容，关注我们。