国内首次!百度智能云点亮昆仑芯三代万卡集群

国内首次!百度智能云点亮昆仑芯三代万卡集群

万卡集群优势凸显,助力算力突破与成本优化

万卡集群的建成不仅为百度带来了强大的算力支持,还推动了模型降本的趋势。在过去一年中,整个行业都在努力降低大模型的使用成本,而算力紧张是导致成本居高不下的重要因素之一。百度通过自研芯片和大规模集群的建设,不仅解决了自身算力供应的问题,还为整个行业提供了新的思路和方向。

从算力上看,超大规模并行计算能力可实现训练效率跃升,万卡集群可将千亿参数模型的训练周期大幅降低,满足AI原生应用快速迭代的需求。同时也能支持更大模型与复杂任务和多模态数据,支撑Sora类应用的开发。此外,万卡集群能够支持多任务并发能力,通过动态资源切分,单集群可同时训练多个轻量化模型,通过通信优化与容错机制减少算力浪费,实现训练成本指数级下降。

随着国产大模型的兴起,万卡集群逐渐从“单任务算力消耗”到“集群效能最大化”过渡,通过模型优化、有效训练率提升、动态资源分配等手段,智能调度任务,将训练、微调、推理任务混合部署,从而提升集群综合利用率,降低单位算力成本。

百舸赋能,全方位提升集群性能与稳定性

过去,多芯混训和激增的故障率等难题,成为万卡集群部署过程中的巨大挑战。而24年9月升级的百度百舸AI异构计算平台4.0(以下简称“百舸平台”),在万卡集群的建设中发挥了至关重要的作用。

首先,突破硬件扩展性瓶颈,如卡间互联的拓扑限制,避免通信带宽成为瓶颈;同时,围绕芯片及集群功耗,基于万卡规模常规方案功耗可达十兆瓦或更高,采用创新性散热方案,从而解决万卡集群的能效与散热问题;完善模型的分布式训练优化,采用高效并行化任务切分策略,训练主流开源模型的集群MFU提升至58%;在提升稳定性方面,提供容错与稳定性机制,避免由于单卡故障率随规模指数上升而造成的万卡集群有效性大幅下降,保障有效训练率达到98%;最后,针对机间通信带宽需求,建设超大规模HPN高性能网络,优化拓扑结构,从而降低通信瓶颈,带宽有效性达到90%以上。

百舸4.0构建了十万卡级别的超大规模HPN高性能网络,针对跨地域通信中的高延迟问题,通过优化的拓扑结构、多路径负载均衡策略及通信策略,实现了几十公里的跨地域通信。在通信效率上,百舸通过先进的拥塞控制算法和集合通信算法策略,将带宽有效率提升至95%,实现了完全无阻塞,并通过10ms级别超高精度网络监控,保障了网络的稳定性。

在多芯混训方面,百舸展现了强大的资源整合能力。它能够将不同地点、不同规模的异构算力进行统一管理,构建起多芯资源池。当业务提交工作负载时,百舸可自动进行芯片选型,依据集群剩余的芯片资源,选择性价比最高的芯片来运行任务,从而最大化地利用集群的剩余资源,实现高达95%的万卡多芯混合训练效能。

此外,在集群稳定性方面,百舸提供了全面的故障诊断手段,能够快速自动侦测到导致训练任务异常的节点故障。百度自研的BCCL(百度集合通信库)能够快速定位故障并提供自动化的容错能力,将故障恢复时间从小时级降低到分钟级,极大地提高了集群的可靠性和可用性。

日前,花旗银行发布研报表示,DeepSeek、百度等中国模型展现出高效和低成本优势,将有助于加速全球AI应用开发,并在全球引发更多技术创新,推动2025年人工智能应用的拐点。中国工程院院士、清华大学计算机系教授郑纬民也表示,当下构建国产自主万卡系统充满挑战,但"至关重要"。

特别声明:[国内首次!百度智能云点亮昆仑芯三代万卡集群] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

艾条一点健康加倍 艾灸的宝藏功效大公开(艾条有什么好处对人体有什么好处)

艾条燃烧时释放的温热火焰,能为身体带来诸多益处。从古至今,艾灸因其独特疗效受到无数人的喜爱。接下来将探讨艾灸的起源、原理及其带来的好处。 艾灸起源于远古时期,人们发现燃烧艾草熏烤身体可以缓解疼痛和驱寒

艾条一点健康加倍 艾灸的宝藏功效大公开(艾条有什么好处对人体有什么好处)

颜值即是权力,7位乌克兰绝色女神,皆为世间尤物之巅(颜值就是)

自2014年起,她便开始为成人平台拍摄大尺度作品,并在2016年荣登网络评选的年度十大人气模特榜单,可谓是一位非常优秀的小姐姐!这位出生于1993年的乌克兰女神Marta E,是各大写真网站的常客,早在20…

颜值即是权力,7位乌克兰绝色女神,皆为世间尤物之巅(颜值就是)

下大雪才发现:不兴大衣了!满大街都在穿“羽绒服”,洋气又保暖(大雪下的时候)

羽绒服的烂大街,大多数人都觉得羽绒服不如大衣洋气,毕竟羽绒服看上去很厚重且臃肿,但是如果说要在冬日的搭配中追求保暖舒适,那么羽绒服的优势就很明显了。 虽然说羽绒服的保暖性很强,但是不能因此就把羽绒服穿得过于…

下大雪才发现:不兴大衣了!满大街都在穿“羽绒服”,洋气又保暖(大雪下的时候)

威胁他人人身安全(威胁他人人身安全司法解释)

在当今社会,危机潜伏于日常生活的方方面面,不经意间便可能遭遇恶意之人的威胁,而生命作为人生最宝贵的财富,一旦失去,意味着一切的终结。因此,珍视生命,识别并远离那些可能危害我们生命安全的行为至关重要

威胁他人人身安全(威胁他人人身安全司法解释)

浮动补偿模块:任意位停,精准搬运装配,替代他牌新选择!(浮动板调制器的工作原理)

WOMMER推出的新型**高精度浮动补偿模块**,不仅具备卓越的误差吸收能力,更创新性地实现了**任意位置停锁功能**,为搬运与装配作业带来前所未有的灵活性与稳定性。WOMMER浮动补偿模块通过**智能机械锁…

浮动补偿模块:任意位停,精准搬运装配,替代他牌新选择!(浮动板调制器的工作原理)