百度智能云重磅宣布:将点亮昆仑芯三代三万卡集群
创始人
2025-02-05 23:48:38
0

近日,百度智能云成功点亮昆仑芯三代万卡集群,这也是国内首个正式点亮的自研万卡集群。据悉,百度智能云将进一步点亮3万卡集群。这一重大突破标志着百度在人工智能算力领域迈出了坚实的一步,不仅为百度自身的技术发展提供了强大动力,也为整个中国科技界、互联网行业和AI行业带来了新的发展机遇。

万卡集群优势凸显,助力算力突破与成本优化

万卡集群的建成不仅为百度带来了强大的算力支持,还推动了模型降本的趋势。在过去一年中,整个行业都在努力降低大模型的使用成本,而算力紧张是导致成本居高不下的重要因素之一。百度通过自研芯片和大规模集群的建设,不仅解决了自身算力供应的问题,还为整个行业提供了新的思路和方向。

从算力上看,超大规模并行计算能力可实现训练效率跃升,万卡集群可将千亿参数模型的训练周期大幅降低,满足AI原生应用快速迭代的需求。同时也能支持更大模型与复杂任务和多模态数据,支撑Sora类应用的开发。此外,万卡集群能够支持多任务并发能力,通过动态资源切分,单集群可同时训练多个轻量化模型,通过通信优化与容错机制减少算力浪费,实现训练成本指数级下降。

随着国产大模型的兴起,万卡集群逐渐从“单任务算力消耗”到“集群效能最大化”过渡,通过模型优化、有效训练率提升、动态资源分配等手段,智能调度任务,将训练、微调、推理任务混合部署,从而提升集群综合利用率,降低单位算力成本。

百舸赋能,全方位提升集群性能与稳定性

过去,多芯混训和激增的故障率等难题,成为万卡集群部署过程中的巨大挑战。而24年9月升级的百度百舸AI异构计算平台4.0(以下简称“百舸平台”),在万卡集群的建设中发挥了至关重要的作用。

首先,突破硬件扩展性瓶颈,如卡间互联的拓扑限制,避免通信带宽成为瓶颈;同时,围绕芯片及集群功耗,基于万卡规模常规方案功耗可达十兆瓦或更高,采用创新性散热方案,从而解决万卡集群的能效与散热问题;完善模型的分布式训练优化,采用高效并行化任务切分策略,训练主流开源模型的集群MFU提升至58%;在提升稳定性方面,提供容错与稳定性机制,避免由于单卡故障率随规模指数上升而造成的万卡集群有效性大幅下降,保障有效训练率达到98%;最后,针对机间通信带宽需求,建设超大规模HPN高性能网络,优化拓扑结构,从而降低通信瓶颈,带宽有效性达到90%以上。

百舸4.0构建了十万卡级别的超大规模HPN高性能网络,针对跨地域通信中的高延迟问题,通过优化的拓扑结构、多路径负载均衡策略及通信策略,实现了几十公里的跨地域通信。在通信效率上,百舸通过先进的拥塞控制算法和集合通信算法策略,实现了完全无阻塞,并通过10ms级别超高精度网络监控,保障了网络的稳定性。

在多芯混训方面,百舸展现了强大的资源整合能力。它能够将不同地点、不同规模的异构算力进行统一管理,构建起多芯资源池。当业务提交工作负载时,百舸可自动进行芯片选型,依据集群剩余的芯片资源,选择性价比最高的芯片来运行任务,从而最大化地利用集群的剩余资源,实现高达95%的万卡多芯混合训练效能。

此外,在集群稳定性方面,百舸提供了全面的故障诊断手段,能够快速自动侦测到导致训练任务异常的节点故障。百度自研的BCCL(百度集合通信库)能够快速定位故障并提供自动化的容错能力,将故障恢复时间从小时级降低到分钟级,极大地提高了集群的可靠性和可用性。

日前,花旗银行发布研报表示,DeepSeek、百度等中国模型展现出高效和低成本优势,将有助于加速全球AI应用开发,并在全球引发更多技术创新,推动2025年人工智能应用的拐点。中国工程院院士、清华大学计算机系教授郑纬民也表示,当下构建国产自主万卡系统充满挑战,但"至关重要"。

相关内容

热门资讯

回应Anthropic旗下My... 法国人工智能初创公司Mistral AI正寻求填补欧洲银行业在网络安全AI领域的空白,将自身定位为美...
预计超1200万单!宁波跨境电... 跨境电商保税仓作业现场。何罕羽 摄 今年“618”大促即将启动。今年“618”大促周期持续拉长,横跨...
亚马逊内部荒诞一幕:为刷tok... 快科技5月12日消息,据媒体报道,一些亚马逊员工正在利用公司内部的人工智能(AI)工具,执行一些本不...
中东土豪,开始狂买中国资产 最猛市场韩国股市迎来巨震,上演深V走势。 今日开盘韩国KOSPI指数跌超3%,最新收涨2.63%。 ...
欧洲股市反弹 默克和阿斯麦股价... 来源:环球市场播报 欧洲股市反弹,投资者研读企业财报并关注科技股的整体上涨行情。 斯托克欧洲600指...
12小时出院!娄底市中心医院&... 大众卫生报·新湖南客户端5月9日讯(通讯员 刘荣 龙斌)近日,娄底市中心医院(广州医科大学附属第一医...
最高溢价超30%!半导体相关E... 半导体板块热度高涨,资金扎堆入场推高相关场内基金价格,部分产品溢价率飙升。若市场情绪回落、溢价快速收...
鲸跃动力获天使轮融资 2026年5月13日,具身智能机器人研发商鲸跃动力(北京)科技有限公司(简称“鲸跃动力”)宣布完成天...
中际旭创,最新动作! 据瑞可达5月13日晚披露,苏州瑞创连接技术有限公司(下称“苏州瑞创”)原部分股东及新入股东拟对苏州瑞...
原创 报... 文|朝子亥 本文为深度观点解读,仅供交流学习 大家好,欢迎观看【小亥点评】,谁能想到,印尼刚打出一张...
聚焦完善消费制度机制“靶心”,... 5月13日上午,上海市政协经济金融委召开“完善促进消费制度机制,着力推动消费提质扩容”重点课题专家座...
百度伐谋2.0发布,李彦宏:能... 5月13日举办的Create2026百度AI开发者大会开幕式上,自我演化决策智能体百度伐谋升级至2....
易能时代发布会圆满落幕:一次技... 近日,易能时代技术发布会圆满落幕。这场以 “底层创新、极致效率、战略升级” 为核心的发布会,不仅对外...
美国总统特朗普抵达北京开始访华... 1隔夜市场 美股三大指数收盘涨跌不一,纳指涨1.2%,标普500指数涨0.58%,道指跌0.14%,...
日活智能体数取代Token,李... 5月13日,Create 2026百度AI开发者大会开幕。百度创始人李彦宏开场直面围绕Token的A...
营销翻车背后,OPPO正忙着“... 出品|达摩财经 “我妈有两个‘老公’,一个是我爸,另一个一年见两回。跟我爸约会基本不打扮,见另一个,...
特朗普走出机舱,现场画面 5月13日晚,美国总统特朗普乘专机抵达北京。国家副主席韩正前往机场迎接。 应国家...
原创 德... 宁波的铝压铸产业,由于德国采购经理的考察报告,再加上电动车轻量化的迫切需求,故而快速崛起,成为全球瞩...
和讯信息陈炜:放量反包,再次刷... 今天又是一个历史性的时刻,因为行情再度创出年内的新高,而且这个高点也是最近10年的高点,已经来到了4...