百度智能云重磅宣布:将点亮昆仑芯三代三万卡集群
创始人
2025-02-05 23:48:38
0

近日,百度智能云成功点亮昆仑芯三代万卡集群,这也是国内首个正式点亮的自研万卡集群。据悉,百度智能云将进一步点亮3万卡集群。这一重大突破标志着百度在人工智能算力领域迈出了坚实的一步,不仅为百度自身的技术发展提供了强大动力,也为整个中国科技界、互联网行业和AI行业带来了新的发展机遇。

万卡集群优势凸显,助力算力突破与成本优化

万卡集群的建成不仅为百度带来了强大的算力支持,还推动了模型降本的趋势。在过去一年中,整个行业都在努力降低大模型的使用成本,而算力紧张是导致成本居高不下的重要因素之一。百度通过自研芯片和大规模集群的建设,不仅解决了自身算力供应的问题,还为整个行业提供了新的思路和方向。

从算力上看,超大规模并行计算能力可实现训练效率跃升,万卡集群可将千亿参数模型的训练周期大幅降低,满足AI原生应用快速迭代的需求。同时也能支持更大模型与复杂任务和多模态数据,支撑Sora类应用的开发。此外,万卡集群能够支持多任务并发能力,通过动态资源切分,单集群可同时训练多个轻量化模型,通过通信优化与容错机制减少算力浪费,实现训练成本指数级下降。

随着国产大模型的兴起,万卡集群逐渐从“单任务算力消耗”到“集群效能最大化”过渡,通过模型优化、有效训练率提升、动态资源分配等手段,智能调度任务,将训练、微调、推理任务混合部署,从而提升集群综合利用率,降低单位算力成本。

百舸赋能,全方位提升集群性能与稳定性

过去,多芯混训和激增的故障率等难题,成为万卡集群部署过程中的巨大挑战。而24年9月升级的百度百舸AI异构计算平台4.0(以下简称“百舸平台”),在万卡集群的建设中发挥了至关重要的作用。

首先,突破硬件扩展性瓶颈,如卡间互联的拓扑限制,避免通信带宽成为瓶颈;同时,围绕芯片及集群功耗,基于万卡规模常规方案功耗可达十兆瓦或更高,采用创新性散热方案,从而解决万卡集群的能效与散热问题;完善模型的分布式训练优化,采用高效并行化任务切分策略,训练主流开源模型的集群MFU提升至58%;在提升稳定性方面,提供容错与稳定性机制,避免由于单卡故障率随规模指数上升而造成的万卡集群有效性大幅下降,保障有效训练率达到98%;最后,针对机间通信带宽需求,建设超大规模HPN高性能网络,优化拓扑结构,从而降低通信瓶颈,带宽有效性达到90%以上。

百舸4.0构建了十万卡级别的超大规模HPN高性能网络,针对跨地域通信中的高延迟问题,通过优化的拓扑结构、多路径负载均衡策略及通信策略,实现了几十公里的跨地域通信。在通信效率上,百舸通过先进的拥塞控制算法和集合通信算法策略,实现了完全无阻塞,并通过10ms级别超高精度网络监控,保障了网络的稳定性。

在多芯混训方面,百舸展现了强大的资源整合能力。它能够将不同地点、不同规模的异构算力进行统一管理,构建起多芯资源池。当业务提交工作负载时,百舸可自动进行芯片选型,依据集群剩余的芯片资源,选择性价比最高的芯片来运行任务,从而最大化地利用集群的剩余资源,实现高达95%的万卡多芯混合训练效能。

此外,在集群稳定性方面,百舸提供了全面的故障诊断手段,能够快速自动侦测到导致训练任务异常的节点故障。百度自研的BCCL(百度集合通信库)能够快速定位故障并提供自动化的容错能力,将故障恢复时间从小时级降低到分钟级,极大地提高了集群的可靠性和可用性。

日前,花旗银行发布研报表示,DeepSeek、百度等中国模型展现出高效和低成本优势,将有助于加速全球AI应用开发,并在全球引发更多技术创新,推动2025年人工智能应用的拐点。中国工程院院士、清华大学计算机系教授郑纬民也表示,当下构建国产自主万卡系统充满挑战,但"至关重要"。

相关内容

热门资讯

原创 普... 在很多人心里面,黄金拥有无上地位。 至少一两年前还是这样。 这两年穷困潦倒,想要了解自己为什么如此菜...
工商银行宿迁分行持续优化现金服... 为深入践行金融工作的政治性、人民性,持续提升金融服务的便捷性与普惠性,近期,工商银行宿迁分行(以下简...
申请3天就获批!A股1300亿... 每经编辑|黄胜 11月10日晚,ST华通(002602.SZ)公告称,公司股票交易将于2025年1...
巴菲特:今日发最后股东信,年底... 【95岁“股神”巴菲特今日将发最后一封致股东信】11月10日,95岁的“股神”巴菲特今年5月宣布年底...
贵阳银行:“贵银优1”优先股派... 来源:金融一线 11月10日金融一线消息,贵阳银行发布优先股股息派发实施公告,明确其优先股“贵银优1...
股票行情快报:美农生物(301... 证券之星消息,截至2025年11月10日收盘,美农生物(301156)报收于19.31元,上涨2.0...
浙商证券:董事长吴承根到龄退休... 北京商报讯(记者 李海媛)11月10日,浙商证券公告称,于近日收到公司董事长吴承根的书面辞职报告,吴...
“One Hitachi” 日... 11月5日至10日,株式会社日立制作所(简称“日立”)携手在华各集团公司联合参展第八届中国国际进口博...
郑州银行2025年三季报:资产... 随着上市银行三季报披露完毕,郑州银行也交出了一份亮眼的业绩报告。在复杂多变的外部环境与日趋激烈的行业...
天元宠物涨4.45%,成交额1... 来源:新浪证券-红岸工作室 11月10日,天元宠物涨4.45%,成交额1.60亿元,换手率10.35...
港股自动驾驶IPO热潮再起!有... 每经记者|刘曦 每经编辑|裴健如 近期,苏州天瞳威视电子科技股份有限公司(以下简称天瞳威视)正式向...
俄罗斯莫斯科国际机床工业和金属... 展会时间:2026.5.12-15 展会地点:俄罗斯莫斯科 组展单位:北京亿格国际展览有限公司 te...
黄金逆袭美债:美元霸权陨落的3... 你知道吗?就在刚刚过去的2025年第二季度,全球金融市场上演了一场无声的革命——各国央行持有的黄金储...
【投融资动态】高梵战略融资,投... 证券之星消息,根据天眼查APP于10月30日公布的信息整理,安徽高梵电子商务有限公司战略融资,融资额...
富士莱年产289吨特色原料药扩... 来源:滚动播报 (来源:北京商报) 北京商报讯(记者 丁宁)11月10日晚间,富士莱(301258)...
原创 重... 2025年是中国“十四五”规划的收官之年,也是迈向“十五五”新征程的关键节点。当前,全球经济在变局中...
东吴证券掷数十万元为高管“上险... 来源:中访网观察 来源|读商时代(中访网旗下品牌) 2025年券商三季报披露收官,行业整体业绩的爆...
天农集团港股IPO,为广东第二... 在“猪茅”牧原股份递表港交所之后,又有生猪养殖公司冲击港股IPO。 格隆汇获悉,近日,广东天农集团股...
11月10日 美元兑日元突破1... 来源:新浪外汇 新浪外汇消息2025年11月10日,截至17时01分,外汇市场上美元兑日元汇率突破...