百度智能云重磅宣布:将点亮昆仑芯三代三万卡集群
创始人
2025-02-05 23:48:38
0

近日,百度智能云成功点亮昆仑芯三代万卡集群,这也是国内首个正式点亮的自研万卡集群。据悉,百度智能云将进一步点亮3万卡集群。这一重大突破标志着百度在人工智能算力领域迈出了坚实的一步,不仅为百度自身的技术发展提供了强大动力,也为整个中国科技界、互联网行业和AI行业带来了新的发展机遇。

万卡集群优势凸显,助力算力突破与成本优化

万卡集群的建成不仅为百度带来了强大的算力支持,还推动了模型降本的趋势。在过去一年中,整个行业都在努力降低大模型的使用成本,而算力紧张是导致成本居高不下的重要因素之一。百度通过自研芯片和大规模集群的建设,不仅解决了自身算力供应的问题,还为整个行业提供了新的思路和方向。

从算力上看,超大规模并行计算能力可实现训练效率跃升,万卡集群可将千亿参数模型的训练周期大幅降低,满足AI原生应用快速迭代的需求。同时也能支持更大模型与复杂任务和多模态数据,支撑Sora类应用的开发。此外,万卡集群能够支持多任务并发能力,通过动态资源切分,单集群可同时训练多个轻量化模型,通过通信优化与容错机制减少算力浪费,实现训练成本指数级下降。

随着国产大模型的兴起,万卡集群逐渐从“单任务算力消耗”到“集群效能最大化”过渡,通过模型优化、有效训练率提升、动态资源分配等手段,智能调度任务,将训练、微调、推理任务混合部署,从而提升集群综合利用率,降低单位算力成本。

百舸赋能,全方位提升集群性能与稳定性

过去,多芯混训和激增的故障率等难题,成为万卡集群部署过程中的巨大挑战。而24年9月升级的百度百舸AI异构计算平台4.0(以下简称“百舸平台”),在万卡集群的建设中发挥了至关重要的作用。

首先,突破硬件扩展性瓶颈,如卡间互联的拓扑限制,避免通信带宽成为瓶颈;同时,围绕芯片及集群功耗,基于万卡规模常规方案功耗可达十兆瓦或更高,采用创新性散热方案,从而解决万卡集群的能效与散热问题;完善模型的分布式训练优化,采用高效并行化任务切分策略,训练主流开源模型的集群MFU提升至58%;在提升稳定性方面,提供容错与稳定性机制,避免由于单卡故障率随规模指数上升而造成的万卡集群有效性大幅下降,保障有效训练率达到98%;最后,针对机间通信带宽需求,建设超大规模HPN高性能网络,优化拓扑结构,从而降低通信瓶颈,带宽有效性达到90%以上。

百舸4.0构建了十万卡级别的超大规模HPN高性能网络,针对跨地域通信中的高延迟问题,通过优化的拓扑结构、多路径负载均衡策略及通信策略,实现了几十公里的跨地域通信。在通信效率上,百舸通过先进的拥塞控制算法和集合通信算法策略,实现了完全无阻塞,并通过10ms级别超高精度网络监控,保障了网络的稳定性。

在多芯混训方面,百舸展现了强大的资源整合能力。它能够将不同地点、不同规模的异构算力进行统一管理,构建起多芯资源池。当业务提交工作负载时,百舸可自动进行芯片选型,依据集群剩余的芯片资源,选择性价比最高的芯片来运行任务,从而最大化地利用集群的剩余资源,实现高达95%的万卡多芯混合训练效能。

此外,在集群稳定性方面,百舸提供了全面的故障诊断手段,能够快速自动侦测到导致训练任务异常的节点故障。百度自研的BCCL(百度集合通信库)能够快速定位故障并提供自动化的容错能力,将故障恢复时间从小时级降低到分钟级,极大地提高了集群的可靠性和可用性。

日前,花旗银行发布研报表示,DeepSeek、百度等中国模型展现出高效和低成本优势,将有助于加速全球AI应用开发,并在全球引发更多技术创新,推动2025年人工智能应用的拐点。中国工程院院士、清华大学计算机系教授郑纬民也表示,当下构建国产自主万卡系统充满挑战,但"至关重要"。

相关内容

热门资讯

中国ETF总规模首破6万亿元!... 风起云涌,大浪淘沙。 如果给2025年的中国资本市场贴标签,那一定少不了——“ETF的大时代”。 这...
2025,拼多多在消灭“不包邮... 西藏墨脱,雅鲁藏布江大峡谷深处,当清晨的阳光照亮山间的作坊,旺姆已经开始了一天的工作——查看在拼多多...
停牌!600058,重大资产重... 央企改革又见新案例。 具体来看,五矿发展当日收到实际控制人中国五矿《关于筹划重大资产重组事项的通知...
白银日内从涨6%到跌6%背后:... 每经记者|岳楚鹏 每经编辑|高涵 12月29日,现货白银经历过山车行情,在大涨6%逼近84美元/...
原创 再... 最近,“美国斩杀线”的概念引发网络热议,这一概念折射出不少美国人真实的生活处境。在个人经济水平跌落、...
潮涌城北 消费焕新——长沙市开... 湘江北去,奔流不息;浪潮所向,气象万千。 12月28日,长沙北辰滨江商圈迎来一场京湘联动的商业创新实...
10万起家,如何在A股成为千亿... 如果今年年初10万起家, 每个月买到一只很牛的股票, 到年底可以赚到...1437亿元 1437亿元...
新高13.45万元/吨后跳水,... 财联社12月29日讯(编辑 杨斌)连创新高后,今日碳酸锂期货合约价格盘中发生巨震。早盘,碳酸锂期货一...
重庆大渡口八桥镇开展月度劳动力... 为精准研判辖区劳动力就业失业态势,筑牢就业服务数据支撑体系,日前,大渡口区八桥镇龙都社区组织专业统计...
数据看盘军工ETF连续三周份额... 沪深股通今日合计成交2251.78亿,其中紫金矿业和阳光电源分居沪股通和深股通个股成交额首位。板块主...
原创 银... 曾几何时,银行的营业厅里都是来办理各种业务的人,既便是用“人满为患”来比喻都不为过。有的人来银行办理...
银川海关优化监管流程 助力国际... 央广网银川12月29日消息(记者齐平)12月25日,一批来自中国香港的国际快件,在银川河东国际机场通...
原创 中... 2025年年末,全球观察者惊讶地发现一份来自海关的数据。尽管外界普遍认为中国会对日本政客高市早苗的挑...
巨力索具股份有限公司 关于前期... 证券代码:002342 证券简称:巨力索具 公告编号:2025-069 巨力索具股份有限公司 关于前...
原创 帮... 朋友们收盘啦,我是帮主郑重。这行情看的,真是让人哭笑不得。沪指今天勉强收红,拿下了九连阳,这个面子真...
国光电气今日大宗交易折价成交1... 12月29日,国光电气大宗交易成交119.41万股,成交额9911.03万元,占当日总成交额的10....
毛利率超75%,手术缝线厂商百... (图片来源:视觉中国) 蓝鲸新闻12月29日讯近日,北京证券交易所官网显示,海南百迈科医疗科技股份有...
追觅科技“黄金年终奖”刷屏:1... 出品|中访网 审核|李晓燕 2025年末的职场福利圈,被追觅科技的"黄金红包"点燃。12月28日消息...
搜狐医药 | 70年来首个全新... 出品 | 搜狐健康 作者 | 周亦川 编辑 | 袁月 12月23日,再鼎医药有限公司宣布,中国国家药...
港股收评:恒指跌0.71%科指... 12月29日消息,港股三大指数高开低走。截至收盘,恒生指数跌0.71%,报25635.23点,恒生科...