作者 | 刘燕

一文道尽「野生智能的 2021 年」

本文是 “2021 InfoQ 年度技术盘点与展望” 系列文章之一，由 InfoQ 编辑部建造显现，重点聚焦 AI 范畴在 2021 年的重要停顿、静态，希望能帮助你正确把握 2021 年 AI 范畴的焦点成长头绪，在行业内始终连结充足的技术灵敏度。

“InfoQ 年度技术盘点与展望”是 InfoQ 全年最重要的内容选题之一，将涵盖架构、AI、大数据、大前端、云计较、数据库、中心件、操纵系统、开源、编程说话十大范畴，后续将聚合延展成专题、迷你书、直播周、合集页面，在 InfoQ 媒体矩阵连续放出，接待大师延续关注。

特此感激何苗、侯军、蒋宏飞、刘知远、?泽君、吴韶华、许怅然、曾冠荣、张杰、张凯（按姓名首字母排序）对本文的进献，他们的一孔之见，是本文能与大师碰头的关键。

行将曩昔的 2021 年，又是跌宕升沉的一年。

疫情仍没有竣事的苗头，缺芯酿成的供给链中断此起彼伏，与此同时，数字化、智能化转型已是大势所趋。全球企业和机构在不竭学会顺应“新常态”，并从中捕捉新的贸易机遇。

2021年, 野生智能范畴仍然高潮澎湃。

AphaFold2 成功猜测 98% 卵白质结构，预练习大模子迎来大爆发，自动驾驶迈入贸易化试点摸索新阶段，元宇宙概念春风劲吹，首个关于 AI 伦理的全球协议经过，商汤科技行将摘得“AI 第一股”... 前沿技术冲破使人欣喜，落天时用“润物细无声”般深入各行业，业界也起头重视野生智能的题目和应战。

在岁末年头之际，InfoQ 采访了众多行业专家，回首了 2021 年野生智能大模子、深度进修框架、 NLP、智能语音、自动驾驶、常识图谱等各项 AI 技术的成长情况，并展望了未来一年能够的技术趋向。

2021 年度 AI 技术冲破

野生智能猜测卵白质结构

12 月 15 日，Nature 公布了《2021 年十大科学消息》；12 月 17 日，Science 紧随厥后，公布了《2021 年度十大科学冲破》。Nature 和 Science 都将「野生智能猜测卵白质结构」评为今年度最重要的发现，Science 更是将其列为“2021 年十大科学冲破停顿”之首。

持久以来，卵白质结构的猜测一向是生物学范畴的研讨热门和难点。传统的卵白质结构探测方式首要有三种：X 射线晶体学、核磁共振和冷冻电镜。但这些方式本钱较高，研讨周期冗长，且停顿有限。

野生智能为这一困扰生物学界数十年的困难按下了快进键。

今年 7 月，卵白结构两大 AI 猜测算法 —— DeepMind 的 AphaFold2 和华盛顿大学等机构研发的 RoseTTAFold 相继开源。

AphaFold2“解锁”98% 人类卵白质组

7 月 16 日，DeepMind 在 Nature 颁发 论文，公布已操纵 Alpha Fold2 猜测了 35 万种卵白质结构，涵盖了 98.5% 的人类卵白质组，及其他 20 种生物几近完整的卵白质组。研讨团队还公布了 AlphaFold2 的开源代码和技术细节。

RoseTTAFold 可非常钟内计较出卵白质结构

同日，华盛顿大学卵白设想研讨所 David Baker 教授课题组及其他合作机构在 Science 上颁发 论文 ，公布了其开源卵白质猜测工具 RoseTTAFold 的研讨成果。研讨团队摸索了连系相关思惟的收集架构，并经过三轨收集获得了最好性能。三轨收集发生的结构猜测精度接近 CASP14 中的 DeepMind 团队的 AlphaFold2，且速度更快、所需计较机处置才能更低。仅用一台游戏计较机，在短短非常钟内就能牢靠地计较出卵白质结构。

其他研讨停顿

8 月，中国研讨职员利用 Alpha Fold2 绘制了近 200 种与 DNA 连系的卵白质结构图。11 月，德国和美国的研讨职员操纵 Alpha Fold2 和冷冻电镜绘制了核孔复合物的结构图。12 月 22 日，深势科技推出了卵白结构猜测工具 Uni-Fold，在国内初次复现谷歌 Alphafold2 全范围练习并开源练习、推理代码。

AI 技术 2021 年成长总结与展望

野生智能迈向“炼大模子”阶段

今年是超大范围预练习模子的爆发之年。

客岁，GPT-3 横空出世，这个具有 1750 亿参数范围的预练习模子所表示出来的零样本与小样本进修才能革新了人们的认知，也引爆了 2021 年 AI 大模子研讨的高潮。

谷歌、微软、英伟达、智源野生智能研讨院、阿里、百度、浪潮等国内外科技巨头和机构纷纷展开大模子研讨和摸索。

超大范围预练习模子的“武备比赛”

2021 年 1 月，Google 推出的 Switch Transformer 模子以高达 1.6 万亿的参数目打破了 GPT-3 作为最大 AI 模子的统治职位，成为史上首个万亿级说话模子。

国内研讨机构也不甘逞强。今年 6 月，北京智源野生智能研讨院公布了超大范围智能模子“悟道 2.0”，到达 1.75 万亿参数，跨越 Switch Transformer 成为全球最大的预练习模子。

值得一提的是，今年国产化大模子研发工作停顿飞速，华为、浪潮、阿里、百度等都公布了自研的大模子。

浪潮野生智能研讨院首席研讨员吴韶华向 InfoQ 暗示，现在业界进步模子参数目有两种技术线路，发生两种分歧的模子结构，一种是单体模子，一种是夹杂模子。如浪潮的源大模子，华为的盘古大模子、百度的文心大模子、英伟达结合微软公布的自然说话天生模子 MT-NLG 等走的都是单体模子线路；而智源的悟道模子、阿里 M6 等走的是夹杂模子线路。

预练习模子技术新停顿

OPPO 小布智能中心、 NLP 算法工程师曾冠荣以为，预练习模子在今年获得的重要技术停顿有：

• 常识暗示和进修机理进一步创新冲破

随着对预练习模子的深入了解，预练习模子的常识进修和表征的机理慢慢明白，人们得以加倍顺遂地往模子里注入需要其进修的常识，在这些常识的加持下，对复杂使命的应对才能获得了大幅提升。

• 对照进修、自监视和常识增强

以对照进修为中心，多种增强方式为工具的方式能进一步提升预练习模子的语义了解和表征才能，增强方式的深入让模子自监视成为能够，让对照进修对样本，特别是正样本的依靠下降，数据依靠的下降势必让模子对少样本甚至无样本使命的顺应性提升，模子能更好地完成这范例的使命，这将让预练习模子落地的本钱再下降一个条理。

下降 AI 范围化落地的门坎

预练习大模子下降了 AI 利用的门坎，处理了 AI 利用的两个困难：数据和行业常识。它既不需要大量的标注数据，又保障了根本底座。

在预练习模子的营业定制优化和利用方面，曾冠荣以为，从第一个预练习说话模子 BERT 公布至今，已在多个热门使命下获得利用，慢慢从一种“潮水”酿成前沿技术的“根基操纵”，如预练习模子已成为机械翻译范畴的根本关键性技术。此外，预练习模子也成为大系统中的一部分，发挥着其语义了解的上风。

不管是业界还是科研，对预练习模子的利用方式逐步灵活，能从预练习模子中拆解出合适使命的部分并组装到自己的现实使命模子中。

时至本日，对预练习大模子的性能优化仍未停止，在学界，仍有大量的研讨在预练习模子的落地才能上尽力，紧缩、剪枝、蒸馏的工作仍起到重要感化。不止于算法自己，编译、引擎、硬件等方面的优化也在大步迈进。

小结和展望

吴韶华以为，整体而言，现在大范围预练习模子的研讨，包括模子结构的演进和落地仍处在摸索阶段，各家的延续摸索正在不竭扩大对大范围预练习模子的认知鸿沟。

“大范围预练习模子是野生智能的最新技术高地，是对海量数据、高性能计较和进修理论原始创新的全方位考验”，清华大学教授、智源大模子技术委员会成员刘知远在接管 InfoQ 采访时展望了明年大模子的成长趋向。

刘知远暗示，他明年将重点关注两个层面的题目：

一是野生智能技术正显现“大一统”趋向，如预练习模子在 Prompt Tuning 等技术的支持下可用于很多分歧的使命，再如 Transformer 模子框架正在从自然说话处置扩大到计较机视觉模态，接下来我们也许会看到更多的从框架、模子和使命等方面推动野生智能技术趋向同一的工作 ; 另一个题目是，随着预练习模子范围增大，若何更好更高效地实现使命适配和推理计较，将是让大模子飞入千家万户的重要技术。

国产深度进修框架不再是“技术的跟从者”

曩昔十年出现了大量的 AI 算法和利用，这背后都离不开开源深度进修框架供给的支持。

开源深度进修框架是 AI 算法研发和 AI 利用落地的“脚手架”，帮助 AI 研讨员和开辟者大幅下降算法研发门坎，提升研发效力。

IDC 的调研显现，中国野生智能范畴 90% 以上的产物都利用了开源的框架、库大概其他工具包。

新停顿，新趋向

深度进修框架的成长焦点是跟从着深度进修范畴的成长而进步的。

开源深度进修框架旷视天元 MegEngine 研发负责人许怅然在接管 InfoQ 采访时，分享了曩昔这一年他所观察到的深度进修的新停顿：

（1）以 ViT、Swin 为代表的 Transformer 类模子起头向 NLP 之外的范畴进军，在更多场景中展现能力，让“大”模子的趋向愈演愈烈。

响应的，深度进修框架也在练习大模子方面停顿颇多（如 DeepSpeed+ZeRO），多种夹杂并行计划层见叠出。不管是深度进修框架还是硬件厂商，都在思考 Transformer 能否是会持久牢固的计较 pattern。

（2）A100 这类显卡的诞生，催生了一股从静态图回到静态图的趋向。自己对静态图更友爱的框架也纷纷尝试经过编译的方式提升效力，比如 PyTorch 的 LazyTensor、Jax 的 XLA。很多国产框架也在尝试经过消息连系的方式提升效力，比如旷视天元 MegEngine 推出的 Tensor Interpreter、MindSpore 的 Python 代码转静态图的计划等。

此外，MLIR 和 TVM 这两个深度进修编译器范畴的灯塔都在快速增加，若何靠机械做好编译也正成为各个深度进修框架研发的首要偏向。同时随着深度进修方式的延续成长，也诞生了更多的新兴框架，如图神经收集范畴的 DGL。

技术自立之路

近两年，国产深度进修框架连续开源且成长敏捷，逐步在开源框架市场占有一席之地。

在技术研发方面，国产框架不再是技术的“跟从者”的脚色，研发出了很多领先的创新点，比如 MegEngine 的 DTR 技术、OneFlow 的 SBP 并行计划和 MindSpore 的 AKG 等等。此外，在功用、代码质量和文档等方面都到达了很高的水准。

在开源生态扶植方面，各家也都延续投入，经过开源社区拔擢、产学研合作等方式，助力国产开源生态的成长和人材培育。

业界现有的支流深度进修框架多来自国外大厂，今朝，国内企业自研的深度进修框架还没有哪一款进阶成为国际支流的进修框架。

许怅然坦言，国产深度进修框架在生态扶植上还有很长的路要走，既需要延续投入、不竭完善生态扶植，也需要找赴任别化的技术合作点，充实连系我国国情和国产硬件，发挥好本身的技术上风和更好的生态洞察力。

研举事点

现阶段，在深度进修框架方面，业界普遍面临的研举事点首要表现在以下三个方面：

（1）在练习侧，NPU 起头入场，很多厂商已经做出自己的练习芯片，若何高效对接练习 NPU 仍待处理；

（2）学术研讨成长敏捷，框架技术需要延续跟进，这为框架研发带来了一定应战。接下来一段时候会延续一段大 Transformer 的趋向，那末，下一个趋向是什么？

（3）算力提升速度更多地起头依靠 DSA 硬件，只是纯真的手写 kernel 已难以支持，框架需要更多的编译技术、domain knowledge 才能不竭提升练习效力。随着 NPU、GPU 等芯片的快速迭代，包括 MLIR、XLA、TVM 在内的编译技术将遭到更多关注。

将更好地支持大模子练习

随着大模子的延续炽热，预期深度进修框架将在并行战略、重计较等才能上不竭提升，以更好地支持大模子的练习。

同时，今朝练习大模子仍需消耗大量资本，若何依靠深度进修框架的气力节省计较资本，甚至在更小范围上完成使命，将是一个值得摸索的技术偏向。

智能语音这一年：技术冲破不竭，产业落地加速

语?范畴的?范围预练习模子层见叠出

字节跳动 AILAB 语?技术总监?泽君向 InfoQ 暗示，2021 年度，智能语音技术的演进显现出三个层面的趋向：

（1）根本建模技术在打破范畴鸿沟加速融合，如 Transformer 系列模子在?然语?、视觉和语?范畴都展现出?致性的上风，很有“?统江湖”的意义。

（2) 超?范围?监视进修技术（self-supervised learning）在上述多个范畴展现出很强的通?进修能?，即在海量?标签数据上练习?范围通?预练习模子，然后?少许有标签数据做邃密调剂就能获得?常好的结果。

曩昔?年里，基于这类两段练习形式的超?模子不竭革新各项学术算法比赛记载，在?业界也成为?种模子练习和调优范式。

比来?年，Facebook、亚?逊、?歌和微软等公司的研讨学者连续提出语?范畴的?范围预练习模子， 如 Wav2vec、 HuBERT、 DecoAR、 BigSSL、WavLM 等。

（3）除根本技术外，在分歧应?场所场景下，多个范畴模态的技术也在快速相互融合，构成视觉、语?和语义连系的多模态综合系统，如虚拟数字?。

产业界落地加速

整体来说，智能语?技术在?业界的落地不竭加速，来?营业和技术两个?向的合?配合作?牵引和驱动应?落地。

从应?场景的牵引看，???如短中?视频营业，在全球仍连结着较?的增?速度，视频内容创作者和内容消耗者活跃度很?；另???，疫情令居家办公和远程合作的需求增?，智能语?技术能在视频会议中供给通讯增强和语?识别等关键能?，为参会者供给更佳的会议体验；以智能汽?和虚拟现实 VR/AR 为代表的新场景不竭出现，需要更?便、更低提早、更沉醉式的语?交互体验。

从核?技术的驱动看，根本模子改良和?监视技术不竭提升着模子性能上限，同时多模态技术融合使得技术?案的能?越来越强，可?持更复杂的场景并带来更好的体验。

贸易化难点首要在于贸易形式挑选

马泽君以为，现阶段，智能语音贸易化的难点主如果贸易形式摸索和线路挑选的题目，具体包括若何更好地满?需求，控制本钱以及保证托付质量。

???，AI 贸易形式摸索需要始终围绕需求展开，提升模子结果和在实在场景中处理用户或客户的题目不能同等。处理现实题目需要 AI 研发?员深?营业场景，了解需求和条件限制，找到公道的产物技术?案，并不竭思考和笼统功用和技术，沉淀通?的技术处理?案，摸索考证可范围化的标准产物，下降定制周期和价格。

另???，AI 技术研发本钱?常?，若何经过优化算法低对范畴数据依靠，扶植?动化平台下降??消耗和提升研发流程效力对本钱控制?常关键。

最初还要重视托付质量和售后办事。只要同时做好上述三个环节，才能完成从需求到托付到办事的全部链路，从而奠基范围贸易化的根本。

端到端和预练习等技术仍然值得关注

• 端到端序列建模技术

（1）正确率和推理速度更上?层楼的端到端技术值得期待，其中对?机制（alignmentmechanism）是端到端序列建模的关键。字节跳动 AILAB 正在摸索的持续整合发放 CIF 模子（Continuous Integrate-and-Fire）是一种创新的序列端到端建模对齐机制，具有软对齐、计较价格低和轻易扩大的特征。

（2）在端侧设惫亓端到端语?识别和分解技术落地值得关注，出格是轻量级、低功耗、?正确度和定制灵活的端到端语?识别和分解技术。

（3）端到端语?识别技术?向的热词定制和范畴?顺应技术?常能够有重?停顿。

• ?监视预练习技术

（1）超?数据范围和模子 size 的语??监视预练习技术值得关注，语??监视预练习的 BERT 已经出现 (Wav2vec2.0/Hubert)， 语??监视预练习的 GPT-3 极能够在 2022 年到来。

（2）多模态语??监视预练习技术也?常吸引?，该技术能够会极?地提升预练习模子的表征能?，从?带来?监视预练习技术更?范围的落地应?。

（3）无监视预练习技术在语?分解、?乐分类、?乐识别范畴的应?一样值得关注，借助?监视预练习的声学?频表征，可以有用提升下流使命的性能。

• 语?匹敌进犯与防御技术。

（1）语?范畴的匹敌进犯，从进犯?段上来看，将从当前的?盒进犯，进?步进化成?盒进犯；从进犯内容来看，将从当前流?的 untarget 进犯进化成 target 进犯。

群雄逐鹿，谁能赢得自动驾驶之战？

2021 年，自动驾驶范畴分外热烈。

造车热

今年，互联网大厂、新造车势力和传统企业纷纷进场结构自动驾驶，可以说能了局的巨头们根基上都了局造车了，自动驾驶“疆场”群雄逐鹿，不知未来谁执牛耳？

在本钱市场上，自动驾驶也备受追捧。据零壹智库分析，继 2016-2018 年高潮以后，2021 年自动驾驶范畴迎来第二次投资高潮。今年 11 月，Momenta 完成超 10 亿美圆 C 轮系列融资，创下今年度自动驾驶范畴最大范围融资记录。

贸易化前夜

Robotaxi 是自动驾驶最有代价的贸易形式，现阶段，很多自动驾驶技术公司都在做 Robotaxi 的尝试。今年，很多自动驾驶车辆从封锁路测场地走向实在门路。百度、小马智行、文远知行、等企业已实现面向公众的树模运营，起头摸索贸易化。11 月，国内首个自动驾驶出行办事贸易化试点在北京正式启动，百度和小马智行成为首批获许展开贸易化试点的企业。业内助士以为，这标志着国内自动驾驶范畴从测试树模迈入贸易化试点摸索新阶段。

今年，自动驾驶卡车赛道也分外炽热，量产和贸易化均提速，头部玩家走向上市。克日，毫末智行董事长张凯在接管 InfoQ 等媒体采访时谈到了自动驾驶卡车的成长，他暗示，相对乘用车帮助自动驾驶运转场景的复杂性，RoboTruck 具有一些上风，例如长时候运转在较通顺的高速公路上，运转场景相对简单。现阶段，RoboTruck 走得是类似于乘用车般从帮助驾驶到无人驾驶渐进式的成长线路。从成长远景看，Robotruck 具有贸易化闭环的可行性，但自动驾驶系统的量产将会是一个坎。

毫末智行 COO 侯军以为，2021 年是自动驾驶的爆发之年。一方面，得益于技术的延续进步、市场需求、政策加持、本钱看好等各方面身分，高级别自动驾驶在落地摸索方面，已有了初步的功效；另一方面，智能驾驶贸易化落地也在快速渗透，起头走向量产时代。

2022，这些技术将是下半场合作胜败的关键

按照张凯的预判，“2022 年将是自动驾驶行业成长最为关键的一年。乘用车帮助驾驶范畴的合作将会正式进入下半场，而下半场合作的场景将会是城市开放场景。其他场景的自动驾驶也将正式进入贸易化元年”。

张凯以为，2022 年，多项自动驾驶技术值得关注。

（1）数据智能将成为自动驾驶量产决胜的关键。数据智能系统是自动驾驶贸易化闭环的关键地点，搭建高效、低本钱的数据智能系统有助于鞭策自动驾驶系统不竭迭代前行。

（2）Transformer 与 CNN 技术深度融合，将会成为自动驾驶算法整合的粘合剂。Transformer 技术帮助自动驾驶感知系统了解情况语义更深入，与 CNN 技术深度融合能处理 AI 大模子量产摆设的困难，这是自动驾驶行业下半场合作的关键技术。

（3）大算力计较平台将在 2022 年正式量产落地，Transformer 技术与 ONESTAGE CNN 技术都需要大算力计较平台做支持。

（4）随着自动驾驶系统的量产和范围化，激光雷达与机械视觉组成的 AI 感知技术，将与大算力计较平台深度融合，这将大幅提升自动驾驶感知、认知模块的运转效力。

NLP，黄金时代延续？

这几年，NLP 处于快速成长阶段。客岁，多位 NLP 专家评判，NLP 迎来了大爆发的黄金时代。那末今年，NLP 的成长情况若何？

基于提醒的微调技术敏捷风行

作业帮产研中心蒋宏飞博士告诉 InfoQ，今年基于提醒的微调 (prompt-based tuning）的技术敏捷风行起来，这是一种人类常识和大模子较高效的连系形式。该技术是今年较值得关注的新停顿。

“今年 NLP 在根本模子方面没有大的冲破。预练习模子方面，今年出现了很多很大的模子，但整体上同质化也较严重，对于产业界理论结果来说，常常依照‘奥卡姆剃刀’原则，偏向于利用最适当的如 Bert 常常就够了”蒋宏飞暗示。

现阶段，NLP 技术在成长进程中还存在很多技术应战，其中之一即是很难获得到大量高质量的标注数据。深度进修依靠大范围标注数据，对于语音识别、图像处置等感知类使命，标注数据相对轻易，但 NLP 常常是熟悉类使命，人的了解都有主观性，且使命和范畴众多，致使大范围语料标注的时候本钱和人力本钱都很大。

与 CV、语音识别相比，NLP 项目在营业中落地常常较慢

NLP 落地项目常常和营业强相关。不像图像识别、语音识别，通用才能在具体营业也有大量落地场景，营业和算法合作鸿沟和目标相对好肯定。而 NLP 项目在营业中落地常常会比力慢，需要高低流不竭深度磨合对齐。

NLP 处理的是最难的认知智能，而人类说话的歧义性、复杂性、静态性令其应战重重。但 NLP 贸易化落地必须面临这些本质的困难，所以不太能够有通用性的“一招吃遍天”的技术计划。

“虽然现在的预练习模子一向在往这个偏向尽力，但我以为最少今朝这类 Transformer 式的，大概更通用地说，DNN 这类蜂巢智能式的技术范式不太行。所以，大师能看到也有很多研讨学者在常识图谱类的各类其他范式上在做尽力”蒋宏飞说。

通用性的模子既然走欠亨，那垂类单一具体场景使命为什么也不能快速搭建？这个题目又触及到数据的题目。数据标准的对齐、数据标注分歧且高效、数据覆盖度战争衡度、长尾数据的处置、数据静态漂移等都是 NLP 从业者天天面临的麻烦事。而相关的方式论和根本工具还很不系统、不齐全，这是未来想到达快速贸易化目标前必须打好的根本。

明年，NLP 将在哪些场景实现范围化落地？

2022 年，NLP 的大范围化利用能够会出现在以下行业出现冲破：

• 教育智能化
• 场景化高标准机械帮助翻译，如专业范畴文档翻译、会议实时翻译等。
• 办事运营智能化：培训、销售、营销、办事等场景的智能化。
• 外文进修 / 写作智能帮助，参考 Grammarly 和 Duolingo 的快速成长。
• 医疗智能化。文本普遍存在于电子病历、临床实验报告、医学产物说明书、医学文献中。分析、挖掘和操纵这些文本，有大量且能间接利用的场景，能够会有冲破式成长。
• 代码智能分析。代码 bug 识别、代码智能优化等。

2022 年，NLP 值得关注的技术点

• 基于提醒的微调 (prompt-based tuning) 的技术。
• 具有逻辑推理的文本天生技术、具有杰出控制性以及分歧性的文本天生技术。文本天生要在严厉场景用起来就必须满足这些，否则只能利用在文娱场景。
• 多模态技术。如 NLP+CV、 NLP + Image、 NLP+ Speech 等。
• 自动进修、数据增强等。NLP 大范围快速落地时的很多痛点需要这些技术来减缓。
• 代码智能。代码题目识别、代码翻译、自动代码优化、代码工作量评价 (如 Merico 的计划)。

元宇宙概念大火，计较机视觉是基石技术之一

回首曩昔的一年，OPPO AI 技术产物化专家（语音语义和计较机视觉以及多模态融合偏向）何苗总结了计较机视觉在产业界和学术界的停顿。

具身智能，从被动式 AI 转向自动式野生智能

具身智能（embodied AI），夸大智能体（agent）要与实在天下停止交互，并经过量模态的交互 — 不但仅是让 AI 进修提取视觉上的高维特征，被“输入”的认知天下，而是经过“眼耳鼻舌身意”六根来自动获得物理天下的实在反应，经过反应进一步让智能体进修并使其更“智能”、甚至“进化”。

今年 2 月，李飞飞提出了一套新的计较框架—— DERL（deep evolution reinforcement learning）深度进化强化进修。她提到了生物进化论与智能体进化的关系，并鉴戒了进化论的理论利用于假定的智能体的进化进修中。

进入元宇宙，需要智能感知和交互这张门票

今年，元宇宙概念大火，各家纷纷入局。

Facebook 极为推重元宇宙，为了暗示投入元宇宙的决心，今年，Facebook 更名为 meta，并公布 “all in 元宇宙”。

扎克伯格提出云宇宙需要具有八要素，其中之一是 Presence 开辟平台 / 套件。Presence 是 meta 为 Oculus VR 头显开辟者供给的元宇宙根本开辟套件，供给的即为基于计较机视觉和智能语音技术的工具集，别离是 insight sdk、interaction sdk 和 voice sdk。

进入元宇宙需要智能感知与交互技术这张门票，而这张门票里的视觉和语音技术是最重要的基石。

趋向一：面向内容天生的 AIGC

元宇宙天下需要孪生大量现实天下的物体或是对于现实天下的人物停止重建，而这些海量的重建必定不能依照传统游戏天下中的方式，由 CG 工程师一个个手工建造，这样效力远远没法满足现实场景的需求。是以面向内容天生的 AIGC（算法层面）是需要的。相关技术偏向包括：图像超分、domain 迁移、外推、类似 CLIP（对照式说话图像预练习模子，可以从自然说话监视中有用进修视觉模子）的隐式神经暗示 — 经过笔墨描写来天生图像等多模态的（CV+NLP）等相关技术。

趋向二：SCV 分解

虚拟现实引擎有专门的天生分解数据的组件，这些分解数据不但美妙，而且有助于练习更好的算法。

天生 / 分解的数据不可是元宇宙的必备要素，也是练习模子的重要质料。倘使有合适的工具来构建数据集，便可省去烦琐的给数据手工打标的进程，更好地对计较机视觉算法停止开辟和练习。

着名数据分析公司 Gartner 以为在未来 3 年中，分解数据将比实在数据更占上风。在分解计较机视觉（SCV）中，我们利用虚拟现实引擎练习计较机视觉模子，并将练习好的模子摆设到现实天下。

常识图谱贸易化落地，制约身分首要在于标准化

重要技术停顿

常识图谱技术在曩昔这一年获得的重要技术停顿有：

常识抽取方面，多模态信息抽取在同时处置文本和视频方面获得了停顿；常识暗示方面，自留意力机制的常识暗示方式越来越走向适用；常识利用方面，很多行业起头构建行业常识库，用于各类下流使命。

明略科技资深科学家张杰在接管 InfoQ 采访时指出，现阶段，在常识图谱方面，业界普遍面临的研举事点首要表现在两个方面：算法方面，针对非结构化数据的信息抽取和实体对齐的正确度难以保障间接商用，需野生校验；工程方面，行业图谱构建本钱高，需要大量的野生标注，别的构建进度也不是一挥而就，需要营业专家不竭运维。

张杰猜测，2022 年，范畴预练习说话模子和 Prompt 在常识图谱中的利用，有望使得信息抽取环节获得进一步提升。针对技术性常识的抽取技术和多模态抽取技术，商用远景广漠。

利用落地停顿

2021 年，常识图谱技术的利用落地，在 ToC 场景中仍首要用于搜索、保举的提升，在 ToB 场景中集合在可视化上。

张杰以为，现阶段，制约常识图谱贸易化落地的首要身分在于标准化，行业图谱的 schema 很难在企业内部大范围内告竣认知的分歧性，影响了后续的标注、抽取、利用。

2022 年，常识图谱技术的大范围化利用能够会在制造业出现冲破，制造业的常识密度高、重视标准化，头部企业重视数字化扶植，堆集了大量原始数据。

2022 年，值得关注的重要技术趋向

野生智能工程化

近两年，野生智能工程化（AI Engineering）分外受关注。在 Gartner 公布的 2021 年和 2022 年重要计谋技术趋向中，野生智能工程化都被列入其中。野生智能工程化是一种实现野生智能模子操纵化的综合方式。

未几前，Gartner 高级研讨总监高挺曾在接管 InfoQ 采访时暗示，AI 工程化本质上是 AI 在企业中大范围、全流程的落地进程，虽然今朝大师现在对 AI 期待很高，但现实上 AI 今朝的利用仍然是被低估的。由于，很多 AI 项目标代价只能表现在一些“点对点”的一次性的计划中。将 AI 大范围落地的工程化方式（包括 DataOps、ModelOps 和 DevOps）总和起来，即是“AI 的工程化”的一整套系统。

野生智能工程化对企业有很多益处，企业在停止野生智能落地的时辰，落地效力、落地普遍度会更高。

可以预见，野生智能工程化将会是未来 2-3 年需要延续关注的偏向，野生智能工程化应当关注三大焦点要点：数据运维、模子运维、开辟运维。

Gartner 猜测，到 2025 年，10% 建立野生智能工程化最好理论的企业从其野生智能工作中发生的代价将最少比 90% 未建立该理论的企业横跨三倍。

天生式 AI 渐成趋向

天生式野生智能（Generative Artificial Intelligence）也被 Gartner 评为 2022 年重要计谋技术趋向之一。

该机械进修方式从其数据中进修内容或工具，并应用数据生玉成新、完全原创的现实工件。人们可以用 AI 来缔造出一些新事物，如内容创作、建立软件代码、帮助药物研发等。

克日，机械进修大牛吴恩达发文回首了 AI 在 2021 年的四个重要停顿，其中之一即是，AI 天生音频内容显现出支流化偏向。现在音乐家和电影建造人们，已经习惯于利用 AI 支持型音频建造工具。

在国内的优酷、爱奇艺等视频平台，AI 也已经普遍用于音、视频的内容生产和创作中，如 AI 帮助视频建造、智能字幕天生、智能翻译、殊效天生等。

Gartner 以为，未来一段时候内，AI 会逐步从一个做判定的机械酿成一个做缔造的机械。估计到 2025 年，天生式野生智能将占一切天生数据的 10%，现在朝这一比例还不到 1%。

不外该技术还存在一定的争议，如会被滥用于欺骗、讹诈、政治辟谣、捏造身份等，存在道德和法令风险。

元宇宙，狂热的新风口

2021 年，能够没什么技术名词比“元宇宙”热度更高了。全球很多公司都在讲元宇宙的概念，以为元宇宙是指向互联网的“终极形状”。现在，移动互联网的盈利已经见顶，不晓得互联网的绝顶能否会是元宇宙？

所谓元宇宙，是一个虚拟时空间的调集， 由一系列的增强现实（AR）， 虚拟现实（VR） 和互联网（Internet）所组成。元宇宙的实现，仰赖一系列前沿技术作支持，包括野生智能、VR/VR、5G、云计较、大数据、区块链等根本设备。

元宇宙中可以重点关注的细分赛道有 VR/AR 、游戏、交际、Metahuman 等。文娱基金易凯本钱在其元宇宙报告中也暗示，持久看好基于上述形状的底层技术公司。易凯本钱猜测，在未来十年，元宇宙概念将照旧集合于交际、游戏、内容等文娱范畴，到 2030 年会渗透到提升生产生活效力的范畴。

写在最初

2021年，野生智能范畴出现了很多冲动听心的严重冲破，野生智能也正在赋能、改变甚至倾覆很多行业。固然也仍有很多难点需要投入更多时候霸占。

克日，李彦宏对 AI 的未来颁发判定：“人机共生”时代，中国将迎来 AI 黄金十年。而未来十年，AI 技术利用门坎将明显下降，为各行各业的智能化转型供给技术“大底座”。

野生智能成长已渐入深水区，期待明年以及以后的 10 年，野生智能可以在技术和落地上获得更多停顿，为下一个“黄金十年”而尽力。

采访嘉宾先容（按姓名首字母排序）：

何苗，OPPO AI 技术产物化专家

侯军，毫末智行 COO

蒋宏飞，作业帮产研中心

刘知远，清华大学教授、智源大模子技术委员会成员

马泽君，字节跳动 AILAB 语?技术总监

吴韶华，浪潮野生智能研讨院首席研讨员

许怅然，旷视天元 MegEngine 研发负责人

曾冠荣，OPPO 小布智能中心、 NLP 算法工程师

张杰，明略科技资深科学家

张凯，毫末智行董事长