即便是网友恶搞，AI合成声音(yin)的滥用，也已经让人们不胜其扰。雷军曾专门发视频回应关于他自己的AI声音(yin)制品“雷军语音(yin)包”，并表示这给他带来了(le)一些困扰，称“希望大家(jia)都不要玩了(le)。”

（雷军回应AI语音(yin)的视频截图）

张文(wen)宏接受媒体采访时也表示，这样的账号“不止一个(ge)，且一直(zhi)在变”，他多次向平台投诉但屡禁不绝，“这些假的AI合成信息就像(xiang)蝗灾(zai)一样，一次又一次发生，像(xiang)漫天飞(fei)过来的蝗虫一样害(hai)人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题(ti)。”

法治网记者调(diao)查发现(xian)，当前AI合成声音(yin)的滥用已经相当严重，但其制作成本却很低(di)廉(lian)。在某网购平台有商家(jia)公开(kai)售卖AI合成声音(yin)技(ji)术，只需几十元，通过一句(ju)话就可以克隆任何声音(yin)。

（相关网店(dian)截图）

在一些短视频平台上，也有不少博主推荐各种AI合成工具，还有博主发布“保姆级”声音(yin)克隆教(jiao)程(cheng)，说(shuo)是可以通过一小段声音(yin)音(yin)频就可以制作出新闻稿件、短剧配音(yin)等AI制品，获得上千点赞。

（相关教(jiao)学(xue)视频截图）

乱象横生，AI合成音(yin)视频的合理使用边界在哪儿？

用AI生成他人声音(yin)的现(xian)象频发，AI合成音(yin)视频的限度和(he)边界在哪儿？中国政法大学(xue)数(shu)据法治研究院教(jiao)授、中国法学(xue)会网络与信息法学(xue)研究会副会长(chang)王立梅教(jiao)授认为，AI合成音(yin)视频本质上是一种技(ji)术使用行为，必须在法律的框架(jia)内(nei)规范(fan)进行。一般而言，AI合成技(ji)术的合理使用边界在于是否获得权利人的明确授权以及(ji)是否对社会造(zao)成负面影(ying)响。

“一方面，法律保护自然人的声音(yin)、肖像(xiang)等权益(yi)，禁止未经授权的商业使用和(he)可能造(zao)成混淆或误导的行为；另(ling)一方面，根据《互联网信息服务深度合成管理规定(ding)》等要求，平台也应加强对AI合成内(nei)容的审核(he)与标识(shi)，使用更加先进经济的技(ji)术手段加强检测(ce)和(he)侵(qin)权治理，及(ji)时干预阻断侵(qin)权行为及(ji)其不良影(ying)响的扩散，有效(xiao)平衡技(ji)术创新与个(ge)人权益(yi)保护之间的关系，切实担负起推动(dong)形成良好网络生态的主体责任。”王立梅说(shuo)。

北京互联网法院综(zong)合审判三(san)庭庭长(chang)颜(yan)君(jun)认为，在深度合成技(ji)术快速发展背景下，作为信息网络服务提供者，平台应严格履行《中华人民共和(he)国民法典(dian)》《互联网信息服务深度合成管理规定(ding)》等法律法规规定(ding)的义务，落实信息安全(quan)主体责任，建立健全(quan)用户注册、算法机制机理审核(he)、科技(ji)伦理审查、信息发布审核(he)、数(shu)据安全(quan)、个(ge)人信息保护、反电(dian)信网络诈(zha)骗、应急处置等管理制度。

中国社会科学(xue)院大学(xue)互联网法治研究中心主任刘晓春分析指出，当前AI合成声音(yin)的问题(ti)主要分为两种情况：一种是深度伪造(zao)，即用AI来生成合成假的声音(yin)，即此前雷军和(he)张文(wen)宏的声音(yin)被伪造(zao)的情况；另(ling)一种是拿他人的声音(yin)来训练，比如多位配音(yin)演员称声音(yin)被AI“偷走”，就是用他人的声音(yin)来训练成AI配音(yin)，用于配音(yin)朗诵等情况。

“这两种情况引起的问题(ti)有不太一样的地方，前者可能会导致虚假信息传播，既有可能侵(qin)害(hai)人格的权益(yi)，也可能会造(zao)成谣(yao)言的流传，会对公共秩序造(zao)成损害(hai)，比如误导公众。有时还可能涉及(ji)欺诈(zha)，甚至有电(dian)信欺诈(zha)的问题(ti)；后者主要是对于人格利益(yi)的人和(he)权益(yi)的侵(qin)害(hai)，主要是民事责任的问题(ti)。”刘晓春说(shuo)。

王立梅表示，这些行为不仅侵(qin)犯个(ge)人的声音(yin)信息、肖像(xiang)权和(he)名誉权等合法权益(yi)，还可能误导消费者，扰乱社会秩序，损害(hai)公众对新技(ji)术新应用的信任感和(he)对数(shu)字空间的安全(quan)感。

律师(shi)：平台若未履行审核(he)义务，或被追究连带责任

《法治日报》律师(shi)专家(jia)库成员、福建省律协副会长(chang)、福建重宇合众律师(shi)事务所首席合伙人涂崇禹(yu)律师(shi)表示，AI合成声音(yin)技(ji)术的滥用可能涉及(ji)对个(ge)人权益(yi)、社会秩序及(ji)市场公平的侵(qin)害(hai)。《中华人民共和(he)国民法典(dian)》第一千零二十三(san)条规定(ding)，自然人声音(yin)的保护参照适用肖像(xiang)权保护的相关规定(ding)。未经允许使用他人声音(yin)，尤其是通过AI技(ji)术进行深度合成并传播，构成对声音(yin)权的侵(qin)害(hai)。

对于平台应负的责任，涂崇禹(yu)律师(shi)分析，《生成式人工智能服务管理暂行办法》等专项规定(ding)要求AI生成内(nei)容必须显著标识(shi)，平台需对合成内(nei)容进行审核(he)，并建立用户实名认证机制。平台若未履行内(nei)容审核(he)义务，可能被追究连带责任。另(ling)外，若商家(jia)利用AI模仿明星或专家(jia)声音(yin)进行直(zhi)播带货(huo)，误导消费者购买商品，可能违反《中华人民共和(he)国反不正当竞争法》，构成虚假宣传或不正当竞争。

作为平台方来说(shuo)，应加强哪些方面管理和(he)制度建设？颜(yan)君(jun)建议，首先，平台应当加强深度合成内(nei)容管理，采取技(ji)术或者人工方式对深度合成服务使用者的输入数(shu)据和(he)合成结果进行审核(he)，并对使用深度合成技(ji)术生成的信息内(nei)容进行显著标识(shi)，避免公众混淆。其次，平台应建立健全(quan)辟谣(yao)机制，发现(xian)利用深度合成服务制作、复制、发布、传播虚假信息的，应当及(ji)时采取辟谣(yao)措(cuo)施，保存有关记录，并向网信部门和(he)有关主管部门报告。此外，平台应健全(quan)投诉处理机制，及(ji)时响应权利人的维权请求，及(ji)时履行网络服务提供者采取删除(chu)、屏(ping)蔽、断开(kai)链接等必要措(cuo)施的合理注意义务。

“未来，针(zhen)对AI声音(yin)侵(qin)权等新型侵(qin)权行为，需要进一步明确平台在内(nei)容审核(he)、数(shu)据使用、算法推荐等方面的责任。相关平台也应当尊重社会公德和(he)伦理道德，主动(dong)履行社会责任，加强行业自律，推动(dong)人工智能与深度合成技(ji)术向上向善发展，保护公民的合法权益(yi)，共同维护良好的网络生态。”颜(yan)君(jun)说(shuo)。

中国互联网协会调(diao)解工作委员会首席调(diao)解员郭玉忠表示，在即将到(dao)来的AI时代，不仅个(ge)体的声音(yin)可能“被偷”，即便是多场景、多主体的互动(dong)式语音(yin)也存在被“高仿”的可能。当个(ge)人权益(yi)受到(dao)侵(qin)害(hai)，启动(dong)维权行动(dong)时，除(chu)了(le)常(chang)规的对侵(qin)权行为收集证据以外，还要尽量提供侵(qin)权行为给己方造(zao)成的实际经济损失。如侵(qin)权方无恶意企(qi)图，建议先行与之沟通、投诉，要求下架(jia)相关产(chan)品从而减少己方损失，并根据配合态度决定(ding)后续索赔路径及(ji)策略，如调(diao)解磋商、提起诉讼等。

“当前AI声音(yin)滥用的法律规制需多维度协同，增强个(ge)人声纹信息保护意识(shi)，警惕AI声音(yin)诈(zha)骗，在技(ji)术发展与权益(yi)保护之间实现(xian)平衡。”涂崇禹(yu)律师(shi)说(shuo)。

选题(ti)策划｜法治网研究院

文(wen)｜余瀛波(bo) 时海媛