百度智能云重磅宣布:将点亮昆仑芯三代三万卡集群
创始人
2025-02-05 23:48:38
0

近日,百度智能云成功点亮昆仑芯三代万卡集群,这也是国内首个正式点亮的自研万卡集群。据悉,百度智能云将进一步点亮3万卡集群。这一重大突破标志着百度在人工智能算力领域迈出了坚实的一步,不仅为百度自身的技术发展提供了强大动力,也为整个中国科技界、互联网行业和AI行业带来了新的发展机遇。

万卡集群优势凸显,助力算力突破与成本优化

万卡集群的建成不仅为百度带来了强大的算力支持,还推动了模型降本的趋势。在过去一年中,整个行业都在努力降低大模型的使用成本,而算力紧张是导致成本居高不下的重要因素之一。百度通过自研芯片和大规模集群的建设,不仅解决了自身算力供应的问题,还为整个行业提供了新的思路和方向。

从算力上看,超大规模并行计算能力可实现训练效率跃升,万卡集群可将千亿参数模型的训练周期大幅降低,满足AI原生应用快速迭代的需求。同时也能支持更大模型与复杂任务和多模态数据,支撑Sora类应用的开发。此外,万卡集群能够支持多任务并发能力,通过动态资源切分,单集群可同时训练多个轻量化模型,通过通信优化与容错机制减少算力浪费,实现训练成本指数级下降。

随着国产大模型的兴起,万卡集群逐渐从“单任务算力消耗”到“集群效能最大化”过渡,通过模型优化、有效训练率提升、动态资源分配等手段,智能调度任务,将训练、微调、推理任务混合部署,从而提升集群综合利用率,降低单位算力成本。

百舸赋能,全方位提升集群性能与稳定性

过去,多芯混训和激增的故障率等难题,成为万卡集群部署过程中的巨大挑战。而24年9月升级的百度百舸AI异构计算平台4.0(以下简称“百舸平台”),在万卡集群的建设中发挥了至关重要的作用。

首先,突破硬件扩展性瓶颈,如卡间互联的拓扑限制,避免通信带宽成为瓶颈;同时,围绕芯片及集群功耗,基于万卡规模常规方案功耗可达十兆瓦或更高,采用创新性散热方案,从而解决万卡集群的能效与散热问题;完善模型的分布式训练优化,采用高效并行化任务切分策略,训练主流开源模型的集群MFU提升至58%;在提升稳定性方面,提供容错与稳定性机制,避免由于单卡故障率随规模指数上升而造成的万卡集群有效性大幅下降,保障有效训练率达到98%;最后,针对机间通信带宽需求,建设超大规模HPN高性能网络,优化拓扑结构,从而降低通信瓶颈,带宽有效性达到90%以上。

百舸4.0构建了十万卡级别的超大规模HPN高性能网络,针对跨地域通信中的高延迟问题,通过优化的拓扑结构、多路径负载均衡策略及通信策略,实现了几十公里的跨地域通信。在通信效率上,百舸通过先进的拥塞控制算法和集合通信算法策略,实现了完全无阻塞,并通过10ms级别超高精度网络监控,保障了网络的稳定性。

在多芯混训方面,百舸展现了强大的资源整合能力。它能够将不同地点、不同规模的异构算力进行统一管理,构建起多芯资源池。当业务提交工作负载时,百舸可自动进行芯片选型,依据集群剩余的芯片资源,选择性价比最高的芯片来运行任务,从而最大化地利用集群的剩余资源,实现高达95%的万卡多芯混合训练效能。

此外,在集群稳定性方面,百舸提供了全面的故障诊断手段,能够快速自动侦测到导致训练任务异常的节点故障。百度自研的BCCL(百度集合通信库)能够快速定位故障并提供自动化的容错能力,将故障恢复时间从小时级降低到分钟级,极大地提高了集群的可靠性和可用性。

日前,花旗银行发布研报表示,DeepSeek、百度等中国模型展现出高效和低成本优势,将有助于加速全球AI应用开发,并在全球引发更多技术创新,推动2025年人工智能应用的拐点。中国工程院院士、清华大学计算机系教授郑纬民也表示,当下构建国产自主万卡系统充满挑战,但"至关重要"。

相关内容

热门资讯

江沐洋:9.13国际黄金走势分... 金价周五上涨,接近本周早些时候创下的纪录高位,美国劳动力市场疲软的迹象强化了美联储将在下周进行今年首...
每周股票复盘:中控技术(688... 截至2025年9月12日收盘,中控技术(688777)报收于50.62元,较上周的48.35元上涨4...
赛力斯:上半年净利润29.41... 【连续6季度盈利,赛力斯半年报超预期,盈利之旅开启】继2024年一季度扭亏后,赛力斯连续6个季度盈利...
助力渝企抱团出海 沙坪坝将提供... 外贸,是拉动经济的“三驾马车”之一。面对复杂多变的国际形势,如何推动内外贸一体化发展?沙坪坝区既在思...
又一家券商市场化选聘,加码财富... 【导读】华鑫证券公开招聘财富管理总部联席总经理/副总经理 中国基金报记者 孙越 9月12日,华鑫证券...
男子酒后与妻子吵架,连夜从浙江... 近日,男子赵某喝酒时在电话里与妻子吵架,深感愧疚的他竟连夜从浙江开车返回河南老家,只为当面道歉。 赵...
岳麓大会,到底是个什么会? 湘江潮涌,不息的是千年文脉;麓山巍巍,矗立的是时代脊梁。 九月长沙,一场跨越十二年的约定如期而至。岳...
经历多轮裁员、强推线下办公后,... IT之家 9 月 13 日消息,据美国 CNBC 报道,当地时间周四,微软 CEO 萨提亚・纳德拉在...
芯片大战,再次爆发 原创 刘晓博 今天晚上传来重磅消息:中美在芯片等领域爆发新一轮博弈。 先传来的消息是:商务部就美国把...
Safeheron创始人王威:... 来源:国际金融报 “通证的大规模应用可能面临挑战。”Safeheron创始人兼CEO王威在9月12日...
388万元!致同拿下一家上市公... 来源:企业上市 特别提示: 1.拟聘任的会计师事务所名称:致同会计师事务所(特殊普通合伙)(以下简称...
吐槽西贝预制菜,罗永浩的“关键... 羊城晚报全媒体记者 吴珊 罗永浩又火了。因为吐槽西贝预制菜,他在社交平台的热度蹭蹭上涨。西贝创始人贾...
矩阵起源CEO王龙:“企业落地... IT时报记者 孙永会 “AI不是孤立的模型,而是以数据为核心的智能生态。构建数据智能飞轮,让数据生智...
【投融资动态】源囊生物A轮融资... 证券之星消息,根据天眼查APP于9月10日公布的信息整理,杭州源囊生物科技有限公司A轮融资,融资额近...
招商蛇口董事会薪酬与考核委员会... 来源:中访网财观 中访网数据 招商局蛇口工业区控股股份有限公司(以下简称“招商蛇口”)第四届董事会2...
上交所科创咨询委委员候选人出炉... 9月12日,上交所发布第三届科技创新咨询委员会委员候选人名单,共有60人组成第三届咨询委委员候选人。...
茅台集团发布声明:这些都是假的 9月12日,茅台集团发布声明: 近期,线上和线下平台出现以“中国贵州茅台酒厂(集团)有限责任公司”“...
杭州不限价楼盘中签走势图出炉,... 潮新闻客户端 记者 黄磊 制图 蓝鋆滋 中签率的高低真实反映了楼市的冷热。自限价放开之后,不限价楼盘...
响应百城万店金秋美酒消费季,金... 来源:市场资讯 (来源:酒类零售与连锁) 9月10日,金辉酒业成功举办"2025年金辉老友音乐节盛...
从资本驱动转向技术、品牌输出,... 9月12日下午,安永2025聚能大湾区论坛在深圳前海举办,百余位来自粤港澳三地的机构代表、专家学者齐...