雷军 AI 配音事件引发关注，小米已着手处理

牛市中场休息？利用开设账户布局的机会

近几天，短视频平台上出现了大量由“雷军”配音的视频。这些视频的内容对交通拥堵、假期、休假、游戏等一切热点话题进行了尖锐的评论，不仅言语尖锐，甚至还穿插了一些不文明的词语。 ，在网上引起关注。

需要指出的是，这些视频中的声音并非来自雷军本人，而是由人工智能配音。

对于此事，雷军本人在社交媒体平台上用三个愤怒的表情回应，以表达自己的态度。

有网友在小米集团公关部总经理王华的微博评论区留言称“先解决雷军AI语音骂人的事情吧”并@xiaomilegaldepartment。对此，王华回复：“已经转发给他们了。”

人工智能技术的进步，使得图像、音频、视频的深度伪造技术越来越容易获取和使用。目前，小米正在处理雷军AI配音相关事件。对于雷军AI配音引发的热议，外界更关心的是AI滥用可能带来的伦理和侵权问题。

▍涉事AI语音公司正在办理雷军配音

如今，随着大模型技术的快速进步，AI合成内容变得更加容易。

西湖新晨CEO兰振中在接受科创板日报记者采访时分析，AI语音合成主要基于深度学习和神经网络模型。通过大量语音样本的训练，AI可以学习特定人的语音特征并生成相似的语音。目前来看，这些技术的门槛确实已经变得很低。一些开源软件和平台使得没有专业知识的普通用户也可以克隆和合成声音。

据《科创板报》记者观察，目前网络上已经有不少开箱即用的TTS声音模型网站。

比如最近DAU飙升的AI语音平台“Reecho”。在该平台的“声音市场”中，有用户上传了多段雷军声音的音频样例。在此基础上，其他用户可以输入任何句子来创建相应的“Reecho”。 “雷军”AI配音。

近期雷军的恶搞音频大多是网友利用“雷音”平台制作的。

前述“Reecho”平台背后的公司是深圳市燕宇科技有限公司（燕宇科技）。该公司CEO谢伟多透露，已接到小米方面的联系，对方获悉大部分内容是由“Reecho睿声”生成的。言宇科技正在配合小米处理，将通知用户下架或者修改涉及雷军的配音。

谢维铎坦言，“睿音”平台上的一些配音确实不文明，但言宇科技只是创作工具的提供者，没有足够的权力来掌控事态的演变。 “我对此感到抱歉。”

谢维多解释说，“Reecho”平台只能将用户输入的文本原样转换为语音。虽然后台监控系统可以识别用户输入的脏话，但如果直接拦截，“误杀的范围太广了”。他表示，作为一款AI语音克隆工具，在脚本内容不明显违法的情况下，可能不适合过多干扰用户的创作。

“对于平台的‘声音市场’网络社区板块，公司将参考其他UGC平台的模式进行管理，必要时积极配合权利人的诉求。”谢维多表示。

▍如何纠正AI滥用危机？

去年，多款AI配音也爆火业界。以“AI孙燕姿”为代表的AI合成语音风靡一时。同时，还利用AI克隆了《郭德纲说英语相声》、《泰勒·斯威夫特说中文》等配音视频。

但与上一轮不同的是，雷军这一次人工智能合成的声音很快引起了广泛争议。 AI合成的配音内容与雷军的个人风格反差巨大，部分内容已经超出了普通段子的水平。当然，外界更关心的是人工智能滥用带来的伦理和侵权问题。

西湖新晨CEO兰振中表示，随着人工智能技术的进步，人工智能语音克隆、图像视频深度伪造技术越来越容易获取和使用，从而导致了一些滥用行为，比如伪造名人。语音诈骗等，这不仅对个人隐私构成威胁，还可能造成社会秩序的扰乱。

今年外滩大会期间，《全球Deepfake攻防挑战赛》作者、ZOLOZ技术总监姚伟斌在接受科创板日报等媒体采访时表示，今年AIGC生成的造假数量有所增加与去年相比增加了约10倍。 。整个风险实际上呈指数级上升。类似的情况不仅发生在中国，韩国、菲律宾、印度尼西亚等国家也出现过。

不久前，龙头直播公司三羊的“录音丑闻”事件中，内容限制被降低，多名高管和主播受牵连。但根据警方最终调查，该音频内容不实，是人工智能伪造的。

兰振忠告诉科创板日报记者，为了防止AI语音滥用，业界采取了一些技术和策略，比如生物识别、短信验证等多重身份验证措施，以减少语音带来的损失。欺诈罪。 AI技术提供商也在开发检测工具来识别和防止AI语音的滥用，目前这方面的准确率比较高。西湖大学等研究机构也有相关人员研究类似的检测技术。

今年2月，OpenAI团队还推出了“AI生成的内容标识符”，旨在识别文本是由计算机自动生成还是由人类编写。它本质上是一个区分真实内容和人工智能生成内容的分类器。不过，OpenAI在博客中指出，该识别器检测AI书写内容的成功率仅为26%。

不过，兰振中也提到，事实上，人工智能滥用带来的问题很难根除。目前只能从宏观的法律角度进行管理和监管。

今年9月，国家网信办发布《人工智能生成的合成内容标注办法（征求意见稿）》，提出对人工智能生成的合成内容添加显性标签和隐性标签。前者可以清晰地感知，而后者则需要添加到元数据中。

2023年6月，国家网信办等三部门联合发布实施《互联网信息服务深度综合管理规定》。这是我国第一个专门监管人工智能生成内容的部门； 2023年7月，国家网信办等国务院办公厅等七部门联合公布《生成型人工智能服务管理暂行办法》，规定生成型人工智能服务提供者应当承担网络信息内容生产者责任，并在一定程度上为AI技术提供商划出了一条“红线”。

在国际方面，欧盟最近通过的《人工智能法案》（AI Act）明确了围绕人工智能产品和服务的开发、市场推出和使用的统一监管框架。

京师律师事务所律师彭英武告诉记者，与大规模人工智能模型技术的快速发展相比，现行法律管理规定仍有进一步细化的空间。但通过法律法规、平台内容管理以及行业提供的技术和工具等综合管理，人工智能滥用带来的风险有望得到缓解。