国庆假期期间，短视频平台上涌现出大量 “雷军 AI配音” 的恶搞视频，引发广泛关注。这些视频内容涉及对堵车、假期等热门话题的 “锐评”，甚至包括捐款给某大学、用小米SU7撞人、远程控制小米手机爆炸等不实且不良的信息，其中还存在一些不雅谩骂。截至目前，相关短视频平台已逐步下架这些内容。

10月29日，雷军在抖音平台发视频回应此事。雷军表示：“近两年AI特别火，技术进步特别快。前段时间，我经常看到很多人在玩‘雷军语音包’。”

雷军回应称，希望大家都不要再玩了，“有网友投诉说国庆期间被我连续骂了7天，的确让我自己也挺困扰，让我挺不舒服的，这个事不太好。”

图片来源：雷军抖音账号视频截图

尽管AI对雷军造成了困扰，雷军也表示AI还是一个非常好的技术。“AI很好，也非常实用。它能帮你创作、帮你翻译、想你所想，可以帮你把日常的小事都做好。”

图片来源：雷军抖音账号视频截图

不少网友在这条视频下发表评论，有网友继续玩梗：如果最后加一幕，这条也是AI制作的，那将是绝杀。

国庆期间，在社交媒体上，用雷军AI配音已经形成一种创作风潮，各种配音模仿、恶搞视频层出不穷。

10月7日晚，针对网友“为何骂人”的询问，雷军回复了三个愤怒表情。

目前，市面上有大量AI配音的小程序，用户只需在程序内选择相应的人物声音并输入文字，便可借用他人的声音发表言论。

相关短视频平台已逐步下架这些内容。

图片来源：网络视频截图

10月9日，有网友在小米集团公关部总经理王化的评论区要求处理雷军AI语音骂人的问题，王化则回应称相关事件已经被转给了小米法务部。

20秒就能生成一条AI音频

记者在社交软件上检索AI配音发现，不少用户发布了相关视频的生成教程。其中，大部分视频的配音都源于某拟真语音大模型应用。

在该应用网站上，创作者上传任意人物的一段音频作为训练素材，随后AI通过学习可克隆出一个声音角色。网站中的其他用户只需输入文本，便可以使用该声音生成内容。

按照该网站的使用指引，记者添加了上述知名企业家的声音角色，输入一段100字的文本，然后点击“开始生成”，约20秒，一条与该企业家声音相似度极高的AI音频就生成了。记者发现，截至目前，该声音角色已被使用79.9万次，生成字符数达4455.5万个。

被“偷走”声音的公众人物还有不少。今年9月底，一段据称是某直播平台老板卢某某的酒后录音在网络上流传，整体呈现出卢某某对于消费者的傲慢态度，以及对相关人士的不尊重表达，为该平台招致了不小的争议。后警方调查发现，音频内容不实，系大模型伪造而成。

一位业内人士告诉记者，通过模仿音频样本的语调、语速、情感、口音、发声方式等特征，AI技术已经能够高度还原音频样本的声音，达到人耳和其他鉴定方式难以区分的程度。

“从早期的‘一眼假’到如今的‘真假难辨’，AI的发展进入了‘深度伪造’时代。”中国社会科学院大学法学院副教授、互联网法治研究中心主任刘晓春向记者表示，在未经过授权、未进行标注的情况下，用他人声音制作AI语音产品，尤其是“借用”公众人物的声音，很容易引起误解，这不仅会侵害个人信息安全，还可能扰乱网络空间生态秩序。

滥用他人声音侵犯人格权

当前，不少网友在合成他人的AI音频时，仅抱着娱乐心态，并没有意识到背后隐藏的法律风险。记者注意到，在一条“AI配音教程”视频的评论区，有学员提问“这样不侵权吗”？

博主回复称：“大家都在做，如果提示违规，删了就行了。”

对此，北京盈善律师事务所律师张清鑫分析称，与“肖像”类似，自然人的声音具有唯一性、独特性，是自然人人格的重要组成部分，声音权益是人格权的一种。制作并上传他人AI音频的行为，无论是出于商业目的还是娱乐目的，都已构成对其人格权的侵犯。如果配音内容违法或违反公序良俗，可能侵犯他人的名誉权。

据了解，今年4月，北京互联网法院一审开庭宣判了全国首例AI生成声音人格权侵权案。该案中，配音师因认为自身作品被短视频平台利用AI生成语音产品，严重侵犯了自己的声音权益，将短视频平台及制作方等5家公司诉至法院，最终原告获赔经济损失25万元。

在审理过程中，被告公司辩称，人工智能合成后的声音产品，与自然人声音在人身权属性上有所区别，目前技术都会对人工智能合成声音进行水印标记，切断了人工智能合成声音与自然人声音之间的联系，不会产生对应自然人的人格属性。而法院认为，AI声音与原告声音具有高度一致性，能够引起一般人产生与原告有关的思想或感情活动，能够将该声音联系到原告本人。在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。

“该判决对于厘清和把握AI生成声音的边界具有指导意义。”刘晓春说。

治理手段要跟上科技步伐

清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，近一年来，经济与企业类AI谣言量增长99.91%。受访专家表示，法律法规和治理手段要跟上科技发展的步伐，对AI技术的应用进行明确的约束，引导科技向善。

张清鑫认为，AI语音应用工具提供方不能“置身事外”，而是要把好第一道关，强化对源头素材的把控和对生成内容的监管，完善运营规则，并在出现问题时积极配合有关部门，追溯违法音频的生成源头。

今年9月，国家网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》提出，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。包括提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容等。

“作为内容传播的服务提供者，短视频等传播平台应尽到相关义务。”刘晓春建议，除了提示用户进行标识以外，平台也应对AI生成内容建立甄别和追踪的机制。如果发现涉嫌伪造的内容或者接到相关投诉，应当要求内容发布者及时对伪造内容进行标识，在不标识的情况之下，可以根据平台规则删除内容，造成严重后果的可以进行禁言、封号等处理。

（齐鲁晚报·齐鲁壹点编辑 袁野 综合 极目新闻、每日经济新闻、正观新闻、当事人社交账号、金融界、潇湘晨报、工人日报等）