新型 AI 算法亮相：功率降至常规配置 1/50，显存占用降至 1/10_资讯

创始人

2024-06-27 15:01:45

0次

IT之家 6 月 27 日消息，美国加州大学圣克鲁兹分校的研究团队研究出新的方法，只需要 13W 的功率（相当于一个现代 LED 灯泡的功率），就能运行 10 亿参数规模的大语言模型。而作为对比，用于大语言模型任务的数据中心级 GPU 需要约 700W。

AI 浪潮下很多公司、机构的研究主方向是应用、推理方面，很少考虑效率等指标。该研究人员为缓解这种状况，淘汰了矩阵乘法的密集型技术，提出了“三元数”方案，只有负一、零或正一三个数值。

团队还使用一种名为现场可编程门阵列（FPGA）的高度定制电路创建了定制硬件，让他们能够最大限度地利用神经网络中的所有节能功能。

在定制硬件上运行时，可以达到与 Meta 的 Llama 等顶级模型相同的性能，但神经网络功率是常规配置的五十分之一。

该神经网络设计还可以用于在人工智能行业常用的标准 GPU 上运行，测试结果显示，与基于矩阵乘法的神经网络相比，显存占用仅为十分之一。

IT之家附上参考地址

完善社保体系促农村消费潜能释放扩大内需、提振消费，是当前推动我国经济高质量发展的关键着力点。7月30日召开的中共中央政治局会议强调...

江波龙于9月8日斥资4.48亿... 江波龙（09976）发布公告，于2026年9月8日斥资4.48亿元回购124.95万股A股。

刚刚，突破“心理防线”！全球美... 汇率再成全球变数！ 9月8日早上，美元兑日元USD/JPY跌破153，刷新今年2月以来新低，日内跌幅...

原创从... 前言加拿大人的关税铁锤，9月8日凌晨准时砸了下来，这不是一场普通的贸易摩擦，而是北美大陆持续了几十...

韩国股市酝酿触底博弈：外资抛售... 韩国股市在经历极端的杠杆出清与外资集中抛售后，正迎来估值与技术面的双重拐点。KOSPI 200估值已...

4胜0负！中国女篮优势明显波... 北京时间9月9日消息，中国女篮将在今晚的世界杯8强资格赛中对阵波多黎各女篮，获胜的球队将晋级女篮世界...

巨头创始人离婚，未签婚前协议，... 近日，运动休闲品牌lululemon（露露乐蒙）创始人奇普・威尔逊（Chip Wilson）的离婚消...

太重铸锻件分公司降本增效超20... 面对原材料价格持续攀升、贵重合金成本大幅上涨的严峻市场形势，太重集团铸锻件分公司摒弃粗放生产模式，深...

原创中... 中东这把火烧得越来越旺，油价窜到快100美元一桶，看着新闻心里挺感慨的。二十多年前中国搞电车、砸光伏...

甲氧基PEG修饰多肽定制：从分... 甲氧基聚乙二醇（mPEG）修饰多肽是生物医药领域一项关键的药物改性技术。通过在多肽分子表面引入亲水性...

上海朱吉：做双眼皮前，先搞懂自... 在上海生活久了，你会发现这座城市对“精致”的要求格外高。不少朋友来做双眼皮面诊时，习惯性地掏出手机里...

9.09股市早8点丨关键：不是... 关键：不是双底就是双头！股市早8点老沙自媒体 2026年9月9日（周三） ▊美股三大指数收跌 ...

全球化产能布局稳步推进，中邮证... 9月8日，中邮证券研报指出，亚香股份（301220.SZ）盈利阶段性承压，全球化产能布局稳步推进。...

福建福鼎遭强降雨，水产养殖户：... 编者按养殖户提前加固鱼排抵御台风，却败给了始料未及的淡水倒灌。打捞不尽的死鱼、无法理赔的灾情、沉重...

美股收盘：三大指数集体收跌算... 财联社9月9日讯（编辑赵昊）周二（9月8日），美股三大指数集体走低，均连续两个交易日收跌。截至收...

高层密集变动后，水井坊交出半年... 新华社旗下中经智库9月8日发布的智库报告显示，2026年上半年，白酒行业已全面进入“量价利齐跌”的深...

股市必读：贵阳银行新发布《贵阳... 截至2026年9月8日收盘，贵阳银行(601997)报收于5.61元，上涨1.26%，换手率1.36...

河南省卫生健康委召开专题会议 ... 9月3日，河南省卫生健康委召开医学科技创新工作专题会议，深入学习贯彻习近平总书记关于科技创新和卫生健...

原创继... 标题：继母给我煮粥，她出去吃好的，离家出走多年，一双鞋让我回家心切。在浩瀚的星座世界里，每个星座...

铜价再创新高，还能再涨吗？今年有望突破1.5万美元/吨。图片来源：界面图库 LME铜价再创历史新高。伦敦金属交易所(L...