百度智能云重磅宣布:将点亮昆仑芯三代三万卡集群
创始人
2025-02-05 23:48:38
0

近日,百度智能云成功点亮昆仑芯三代万卡集群,这也是国内首个正式点亮的自研万卡集群。据悉,百度智能云将进一步点亮3万卡集群。这一重大突破标志着百度在人工智能算力领域迈出了坚实的一步,不仅为百度自身的技术发展提供了强大动力,也为整个中国科技界、互联网行业和AI行业带来了新的发展机遇。

万卡集群优势凸显,助力算力突破与成本优化

万卡集群的建成不仅为百度带来了强大的算力支持,还推动了模型降本的趋势。在过去一年中,整个行业都在努力降低大模型的使用成本,而算力紧张是导致成本居高不下的重要因素之一。百度通过自研芯片和大规模集群的建设,不仅解决了自身算力供应的问题,还为整个行业提供了新的思路和方向。

从算力上看,超大规模并行计算能力可实现训练效率跃升,万卡集群可将千亿参数模型的训练周期大幅降低,满足AI原生应用快速迭代的需求。同时也能支持更大模型与复杂任务和多模态数据,支撑Sora类应用的开发。此外,万卡集群能够支持多任务并发能力,通过动态资源切分,单集群可同时训练多个轻量化模型,通过通信优化与容错机制减少算力浪费,实现训练成本指数级下降。

随着国产大模型的兴起,万卡集群逐渐从“单任务算力消耗”到“集群效能最大化”过渡,通过模型优化、有效训练率提升、动态资源分配等手段,智能调度任务,将训练、微调、推理任务混合部署,从而提升集群综合利用率,降低单位算力成本。

百舸赋能,全方位提升集群性能与稳定性

过去,多芯混训和激增的故障率等难题,成为万卡集群部署过程中的巨大挑战。而24年9月升级的百度百舸AI异构计算平台4.0(以下简称“百舸平台”),在万卡集群的建设中发挥了至关重要的作用。

首先,突破硬件扩展性瓶颈,如卡间互联的拓扑限制,避免通信带宽成为瓶颈;同时,围绕芯片及集群功耗,基于万卡规模常规方案功耗可达十兆瓦或更高,采用创新性散热方案,从而解决万卡集群的能效与散热问题;完善模型的分布式训练优化,采用高效并行化任务切分策略,训练主流开源模型的集群MFU提升至58%;在提升稳定性方面,提供容错与稳定性机制,避免由于单卡故障率随规模指数上升而造成的万卡集群有效性大幅下降,保障有效训练率达到98%;最后,针对机间通信带宽需求,建设超大规模HPN高性能网络,优化拓扑结构,从而降低通信瓶颈,带宽有效性达到90%以上。

百舸4.0构建了十万卡级别的超大规模HPN高性能网络,针对跨地域通信中的高延迟问题,通过优化的拓扑结构、多路径负载均衡策略及通信策略,实现了几十公里的跨地域通信。在通信效率上,百舸通过先进的拥塞控制算法和集合通信算法策略,实现了完全无阻塞,并通过10ms级别超高精度网络监控,保障了网络的稳定性。

在多芯混训方面,百舸展现了强大的资源整合能力。它能够将不同地点、不同规模的异构算力进行统一管理,构建起多芯资源池。当业务提交工作负载时,百舸可自动进行芯片选型,依据集群剩余的芯片资源,选择性价比最高的芯片来运行任务,从而最大化地利用集群的剩余资源,实现高达95%的万卡多芯混合训练效能。

此外,在集群稳定性方面,百舸提供了全面的故障诊断手段,能够快速自动侦测到导致训练任务异常的节点故障。百度自研的BCCL(百度集合通信库)能够快速定位故障并提供自动化的容错能力,将故障恢复时间从小时级降低到分钟级,极大地提高了集群的可靠性和可用性。

日前,花旗银行发布研报表示,DeepSeek、百度等中国模型展现出高效和低成本优势,将有助于加速全球AI应用开发,并在全球引发更多技术创新,推动2025年人工智能应用的拐点。中国工程院院士、清华大学计算机系教授郑纬民也表示,当下构建国产自主万卡系统充满挑战,但"至关重要"。

相关内容

热门资讯

中荷人寿:以“客户至上”为初心... 在新时代的宏大叙事下,保险业被赋予更深远的使命——它不仅是经济社会发展的“稳定器”与“减震器”,更是...
原创 特... 当全球目光聚焦于俄乌局势的谈判与美联储降息的可能时,太平洋彼岸突然传来一声令煤炭行业为之一振的信号。...
原创 金... 今天买一件30克的金手镯,如果你去的是某家知名品牌金店,你要付的钱,足够你在银行买45克投资金条。 ...
商业火箭公司箭元科技完成B轮融... 2月12日,箭元科技官微宣布,公司近日完成了由多家头部市场化机构参与的B轮融资。公司已投产的三发“元...
原创 黄... 最近国际黄金市场出现了大幅波动,2026年1月底,COMEX黄金在1月30日单日跌幅达8.35%,现...
农为基,信为本,贷于人—平定农... 从支持传统农业转型升级,到培育乡村新产业新业态;从构建农村信用生态,到提供便捷高效的普惠信贷。平定农...
大祥区有哪些特色菜推荐 大祥区,作为湖南邵阳的核心城区,不仅有着深厚的历史文化底蕴,还拥有令人垂涎欲滴的特色美食。这里的菜肴...
企业调改阵痛下,数据窥破资金踪... 当零售巨头陷入连续五年的战略调改阵痛,预亏公告上的数字与门店改造的规模,成为市场目光聚焦的焦点。我曾...
喜力拟裁员超5000人 来源:滚动播报 (来源:北京商报) 2月11日,荷兰啤酒巨头喜力集团发布2025年全年业绩报告。在披...
“无中生有”书写产业传奇 每天清晨,河北省邢台市清河县的羊绒交易市场便开始了一天的忙碌。来自内蒙古、新疆、宁夏等牧区的原绒在这...
网易丁磊谈AI对游戏影响:降低... 站长之家(ChinaZ.com)2月12日 消息:昨日,网易公布了其2025年第四季度及全年财务报告...
原创 小... “大模型第一股”智谱又搞出了炸翻科技圈的操作。 2月12日,智谱正式上线并开源GLM-5。而此前在全...
原创 守... 守住筹码,节后起飞——2月12日A股复盘春节前倒数第二个交易日,A股的表现是主力控盘+人性收割行情。...
商务部:2月13日起对原产于欧... 新华社北京2月12日电(记者王聿昊、谢希瑶)商务部12日发布公告,公布对原产于欧盟的进口相关乳制品反...
联想集团去年第三季度营收157... 新京报贝壳财经讯(记者韦博雅)2月12日,联想集团公布截至2025年12月31日的2025/26财年...
这届酒店年终奖,有人吃肉喝汤,... 文|迈点 春节前的酒店人朋友圈,刷下来全是对年终奖的吐槽。 有人晒出三亚某国际联号5个月薪资的年终...
土耳其将继续紧缩货币政策以抑制... 土耳其央行行长法提赫·卡拉汉2月12日表示,土央行将继续维持紧缩货币政策以巩固通胀回落,预计2026...
荣耀前CEO赵明官宣最新任职! 本文自南都·湾财社 采写 | 南都·湾财社记者 严兆鑫 编辑 | 柴华 2月12日,荣耀前CEO赵明...
格隆汇公告精选︱鹏辉能源:拟1... 【热点】 嘉美包装(002969.SZ):魔法原子主要从事具身智能机器人相关业务,正在筹划独立资本运...
中国新年货丨情绪消费崛起 京东... 春节临近,年货采购已临近尾声。北京的田女士打开京东APP,准备为女儿挑选一套新年童装。身旁的女儿一眼...