万卡集群优势凸显，助力算力突破与成本优化
万卡集群的建成不仅为百度带来了强大的算力支持，还推动了模型降本的趋势。在过去一年中，整个行业都在努力降低大模型的使用成本，而算力紧张是导致成本居高不下的重要因素之一。
百度通过自研『芯片』和大规模集群的建设，不仅解决了自身算力供应的问题，还为整个行业提供了新的思路和方向。从算力上看，超大规模并行计算能力可实现训练效率跃升，万卡集群可将千亿参数模型的训练周期大幅降低，满足AI原生应用快速迭代的需求。同时也能支持更大模型与复杂任务和多模态数据，支撑Sora类应用的开发。此外，万卡集群能够支持多任务并发能力，通过动态资源切分，单集群可同时训练多个轻量化模型，通过通信优化与容错机制减少算力浪费，实现训练成本指数级下降。
随着国产大模型的兴起，万卡集群逐渐从“单任务算力消耗”到“集群效能最大化”过渡，通过模型优化、有效训练率提升、动态资源分配等手段，智能调度任务，将训练、微调、推理任务混合部署，从而提升集群综合利用率，降低单位算力成本。
百舸赋能，全方位提升集群性能与稳定性
过去，多芯混训和激增的故障率等难题，成为万卡集群部署过程中的巨大挑战。而2024年9月升级的百度百舸AI异构计算平台4.0（以下简称“百舸平台”），在万卡集群的建设中发挥了至关重要的作用。
百舸4.0构建了十万卡级别的超大规模HPN高性能网络，针对跨地域通信中的高延迟问题，通过优化的拓扑结构、多路径『负载均衡』策略及通信策略，实现了几十公里的跨地域通信。在通信效率上，百舸通过先进的拥塞控制算法和集合通信算法策略，将带宽有效率提升至95%，实现了完全无阻塞，并通过10ms级别超高精度网络监控，保障了网络的稳定性。
在多芯混训方面，百舸展现了强大的资源整合能力。它能够将不同地点、不同规模的异构算力进行统一管理，构建起多芯资源池。此外，在集群稳定性方面，百舸提供了全面的故障诊断手段，能够快速自动侦测到导致训练任务异常的节点故障。百度自研的BCCL（百度集合通信库）能够快速定位故障并提供自动化的容错能力，将故障恢复时间从小时级降低到分钟级，极大地提高了集群的可靠性和可用性。
日前，花旗银行发布研报表示，『DeepSeek』、百度等中国模型展现出高效和低成本优势，将有助于加速全球AI应用开发，并在全球引发更多技术创新，推动2025年人工智能应用的拐点的到来。中国工程院院士、清华大学计算机系教授郑纬民也表示，当下构建国产自主万卡系统充满挑战，但至关重要。
南京晨报/爱南京记者 杨静
