腾讯公布大语言模型训练专利：可提高模型的准确性
创始人
2025-02-08 15:17:39
0次
【CNMO科技消息】据CNMO了解，2月7日，腾讯科技（深圳）有限公司申请的“大语言模型的训练方法、装置、计算机设备及存储介质”专利正式公布。这一技术通过在模型训练中引入多重摘要文本的对比学习机制，显著提升了模型的泛化能力与生成准确性，为AI语言处理领域提供了新的方向。
根据专利摘要，腾讯的新方法创新性地引入“第一摘要文本”与“第二摘要文本”，两者信息量不同且前者包含正确与错误语句的混合。模型通过对比这两种摘要，学习区分正确与错误表达，同时减少单一数据源导致的过拟合问题。这种设计不仅扩展了模型的学习维度，还通过动态调整优化了生成结果的可靠性。
CNMO注意到，该方法与近年来对比学习在文本摘要领域的应用趋势相契合。此前研究显示，对比学习通过构造正负样本调整模型表示空间，已在提升摘要质量、缓解暴露偏差等方面取得成效。腾讯此次将对比学习框架融入大语言模型训练，进一步拓展了该技术的应用边界。
有媒体分析称，腾讯的专利通过多样化摘要文本及对比机制，为模型提供了更贴近真实应用的学习环境，尤其对智能客服、内容生成等需高精度输出的领域具有直接意义。此外，该技术或能加速大模型落地进程。例如，在短文本对话场景中，腾讯曾推出基于混合注意力机制的对话模型专利，若结合新训练方法，有望进一步提升回复的相关性与丰富性。
可以看到，腾讯近年来在大语言模型领域动作频频，从2023年的微调方法专利到此次训练框架创新，显示出其全链条技术布局的野心。
相关内容
热门资讯
A股银行股普涨，重庆银行涨4%
A股市场银行股普涨，其中， 重庆银行涨4%， 青农商行涨超3%， 成都银行、 张家港行、 瑞丰银行、...
真正聪明的成年人，都在悄悄“消...
近两年，“消费降级”成为大众热议的生活方式，不少人对此存在误解，认为消费降级就是抠门、吝啬、降低生活...
2026年沈阳第一宗拍卖地块亮...
7月，沈阳土地市场分外热闹，铁西、沈河、浑南等多个区域推出重量级地块。 据公告显示，2026年沈阳第...
错失400多亿元利润，长鑫科技...
一场国产存储芯片的资本狂欢即将达到高潮，而昔日股东之一的碧桂园却成为最失落的人，在场外黯然神伤。 7...
买楼的拼多多就是“精明”代言词
（本文作者为 源媒汇，钛媒体经授权发布） 文 | 源媒汇，作者 | 利晋 壕无人性，拼多多短短...
原创 注...
国际金价现在正卡在4000美元关口反复拉锯，从年内5589美元的高点一路回撤了28%，这个走势不少人...
长鑫科技：上市后仍将保持无实际...
7月15日， 长鑫科技（688825.SH）科创板上市网上投资者交流会在上证路演中心举行。 长鑫科技...
梁文锋登顶全球大模型首富
据7月15日更新的彭博亿万富翁指数最新数据，DeepSeek创始人梁文锋以360亿美元净资产位列全球...
原创 日...
巴菲特说过一句很有名的话，叫“永远不要做空美国”,但这两年金融圈里发生了一件特别荒诞的事，真正把这句...
世界杯-奥亚萨瓦尔点射波罗破门...
北京同仁堂六味地黄丸：助威绿茵赛场，真材实料为爱撑腰！ 北京时间7月15日凌晨03:00，美加墨世界...
高温高湿季警惕军团菌！看似感冒...
大众卫生报·新湖南客户端7月10日讯（通讯员 朱志文 本报记者 陈艳阳）小暑过后，全国多地持续高温高...
2026年华北啤酒加盟市场：四...
本内容由AI生成 2026年华北啤酒市场格局与创业者关注焦点 近年来，华北啤酒加盟市场呈现多元化发展...
从牛市到技术性熊市：杠杆ETF...
(本文作者叶冬艳系长江商学院研究学者；单舒文系南京大学金融硕士研究生；欧阳辉系长江商学院金融学杰出院...
2030年全国要卖到60万亿：...
7月13日晚间，中国政府网发布消息，国务院批复原则同意《扩大消费“十五五”规划》（来源：中国政府网、...
爱诗科技完成29.8亿元C轮融...
AI视频生成公司「爱诗科技」宣布完成整体C轮融资，累计融资29.8亿元人民币。其中C+轮由阿里巴巴领...
OpenAI正式回应苹果诉讼，...
来源：环球网 【环球网科技综合报道】7月15日消息，据外媒TechCrunch报道，针对苹果日前发起...
上市公司被监管通报批评，股价单...
一位做上市电商的从业者前段时间吐槽，只发了短短两个字：完了。 他们公司刚被监管出具公开通报批评，这份...
*ST联翔：股价异常波动 业绩...
7月15日， *ST联翔（603272.SH）公告称，公司股票7月13日至15日连续三个交易日收盘价...
溢价怎样比较资产配置更合理？
在资产配置中，溢价是一个不可忽视的因素，它能在很大程度上影响投资决策和资产配置的合理性。那么，如何结...
龙蟠科技增资至7.8亿 增幅约...
天眼查显示，近日，江苏龙蟠科技集团股份有限公司发生工商变更，注册资本由约6.8亿人民币增至约7.8亿...