腾讯公布大语言模型训练专利：可提高模型的准确性
创始人
2025-02-08 15:17:39
0次
【CNMO科技消息】据CNMO了解，2月7日，腾讯科技（深圳）有限公司申请的“大语言模型的训练方法、装置、计算机设备及存储介质”专利正式公布。这一技术通过在模型训练中引入多重摘要文本的对比学习机制，显著提升了模型的泛化能力与生成准确性，为AI语言处理领域提供了新的方向。
根据专利摘要，腾讯的新方法创新性地引入“第一摘要文本”与“第二摘要文本”，两者信息量不同且前者包含正确与错误语句的混合。模型通过对比这两种摘要，学习区分正确与错误表达，同时减少单一数据源导致的过拟合问题。这种设计不仅扩展了模型的学习维度，还通过动态调整优化了生成结果的可靠性。
CNMO注意到，该方法与近年来对比学习在文本摘要领域的应用趋势相契合。此前研究显示，对比学习通过构造正负样本调整模型表示空间，已在提升摘要质量、缓解暴露偏差等方面取得成效。腾讯此次将对比学习框架融入大语言模型训练，进一步拓展了该技术的应用边界。
有媒体分析称，腾讯的专利通过多样化摘要文本及对比机制，为模型提供了更贴近真实应用的学习环境，尤其对智能客服、内容生成等需高精度输出的领域具有直接意义。此外，该技术或能加速大模型落地进程。例如，在短文本对话场景中，腾讯曾推出基于混合注意力机制的对话模型专利，若结合新训练方法，有望进一步提升回复的相关性与丰富性。
可以看到，腾讯近年来在大语言模型领域动作频频，从2023年的微调方法专利到此次训练框架创新，显示出其全链条技术布局的野心。
相关内容
热门资讯
一季度业绩下跌，基金规模却从2...
2026年一季度，格林新兴产业混合基金上演了一场业绩与规模的冰火两重天戏码。该基金一季报显示，A类份...
603169、000909、6...
【导读】兰石重装、*ST数源、傲农生物、欢瑞世纪被证监会立案 中国基金报记者 忆山 4月22日，兰石...
10股筹码大幅集中！
今日（4月22日）市场主要指数集体低开后，快速转涨。 盘面上，光纤概念延续强势，杭电股份、永鼎股份、...
专家解读：这三大产业合计对上海...
来源：滚动播报 （来源：上观新闻） 今年是“十五五”起步之年，一季度开局表现对提振发展信心、稳定市...
国内首单隧道REIT正式上市，...
4月22日，由隧道股份作为发起人的“东方红隧道股份高速公路封闭式基础设施证券投资基金”在上海证券交易...
原创 兵...
在阅读此文前，为了方便您进行讨论和分享，麻烦您点击一下“关注”，可以给您带来不一样的参与感，感谢您的...
A股突发！4家公司被证监会立案
【大河财立方消息】4月22日晚，兰石重装、*ST数源、傲农生物、欢瑞世纪相继公告称，因涉嫌信息披露违...
蓝色光标一季度净利1.26亿元...
蓝色光标 视觉中国 资料图 国内营销龙头蓝色光标一季度净利润增超三成。 4月22日，北京蓝色光标数据...
AI鉴定评估独具化腐朽为神奇之...
我们天天用元宝、豆包的AI鉴定给收藏的艺术品资产进行鉴定。 我们的艺术品这么完美，怎么我们发现不了？...
固收+规模逼近2.9万亿，二级...
财联社4月22日讯（编辑 王蔚）在低利率环境成为新常态、居民财富再配置需求旺盛的背景下，兼具债券底仓...
被特朗普提名担任美联储主席，沃...
4月21日，美国总统特朗普提名的美联储主席人选凯文·沃什表示，他要捍卫美联储的独立性，并表示如果获得...
苹果新CEO是硬件出身，这对苹...
苹果公司新任CEO约翰·特努斯将于今年9月正式接掌公司。届时他需要面对诸多挑战，但毫无疑问，AI将是...
“被围困的6年”：北京限竞房陆...
每经记者：陈梦妤 每经编辑：陈柯名,杜宇 有人说，被限竞房围困了6年。 近一周，北京大兴区瀛海府一套...
原创 3...
4月20日，"万达电影"四个字从A股消失了。 公告很短，却意味着一个时代的句号。这家承载《唐人街探案...
2026春季糖酒会总结专题：春...
今天分享的是：2026春季糖酒会总结专题：春糖反馈理性，把握结构性机会 报告共计：14页 2026春...
原创 万...
“万达改名了？”第一眼看到这条6热搜的时候，不少人都会有点懵。毕竟万达广场和王健林“一个亿小目标”的...
上市银行一季报营收或将超预期，...
4月20日，截至13:15，中证银行指数上涨0.82%。个股方面，宁波银行涨超3%，农业银行、工商银...
山水集团东北运营区召开4月份工...
来源：市场资讯 （来源：水泥网APP） 4月16日，山水集团东北运营区在赤峰公司召开4月份工作会议。...
广州顶豪汇悦台一豪宅流拍：评估...
4月17日，广州顶级豪宅小区悦汇台的一套法拍房流拍。 该套法拍房建筑面积308.69平方米，评估总价...
安徽润石置业何卫兵 ：扎根县域...
在中国广袤的县域大地上，什么是真正的“好房子”？是不断攀升的建筑高度，还是不断升级的居住体验？有一群...