即便是网友恶搞(gao)，AI合(he)成声音的滥用，也已经(jing)让(rang)人们不胜其(qi)扰。雷军(jun)曾专门发视频回应关(guan)于他自己的AI声音制品(pin)“雷军(jun)语音包”，并表示(shi)这给他带来了一(yi)些困扰，称“希望大家都(dou)不要玩了。”

（雷军(jun)回应AI语音的视频截图）

张文宏接受媒体采(cai)访时也表示(shi)，这样的账(zhang)号“不止一(yi)个，且一(yi)直在(zai)变”，他多次向平台投(tou)诉但(dan)屡(lu)禁不绝(jue)，“这些假的AI合(he)成信息就像蝗灾一(yi)样，一(yi)次又一(yi)次发生，像漫天飞过来的蝗虫一(yi)样害(hai)人。事实上，从平台投(tou)诉结果来看，我觉得最终也难以解决(jue)问题。”

法治网记者(zhe)调查发现，当前AI合(he)成声音的滥用已经(jing)相当严重，但(dan)其(qi)制作成本却很低廉。在(zai)某网购平台有商家公开售卖AI合(he)成声音技(ji)术，只需几十元，通过一(yi)句话就可以克隆任(ren)何声音。

（相关(guan)网店截图）

在(zai)一(yi)些短视频平台上，也有不少博主推(tui)荐各种AI合(he)成工具，还有博主发布“保姆级”声音克隆教程(cheng)，说是可以通过一(yi)小段声音音频就可以制作出新(xin)闻稿件(jian)、短剧配音等AI制品(pin)，获得上千点赞。

（相关(guan)教学视频截图）

乱(luan)象横生，AI合(he)成音视频的合(he)理使用边界在(zai)哪儿？

用AI生成他人声音的现象频发，AI合(he)成音视频的限度和(he)边界在(zai)哪儿？中国政法大学数据法治研(yan)究(jiu)院教授、中国法学会网络与信息法学研(yan)究(jiu)会副(fu)会长王立梅(mei)教授认(ren)为，AI合(he)成音视频本质上是一(yi)种技(ji)术使用行为，必须在(zai)法律的框架内规范进行。一(yi)般而言，AI合(he)成技(ji)术的合(he)理使用边界在(zai)于是否(fou)获得权利人的明(ming)确授权以及是否(fou)对(dui)社(she)会造成负面影响。

“一(yi)方面，法律保护自然人的声音、肖像等权益，禁止未经(jing)授权的商业使用和(he)可能造成混淆或误导的行为；另一(yi)方面，根据《互联网信息服务深度合(he)成管理规定》等要求，平台也应加(jia)强对(dui)AI合(he)成内容的审核与标识(shi)，使用更加(jia)先(xian)进经(jing)济的技(ji)术手段加(jia)强检测(ce)和(he)侵权治理，及时干预阻断侵权行为及其(qi)不良影响的扩散(san)，有效平衡技(ji)术创新(xin)与个人权益保护之间的关(guan)系，切实担(dan)负起推(tui)动形(xing)成良好网络生态的主体责任(ren)。”王立梅(mei)说。

北京互联网法院综合(he)审判三庭庭长颜(yan)君认(ren)为，在(zai)深度合(he)成技(ji)术快速(su)发展背景下，作为信息网络服务提供(gong)者(zhe)，平台应严格履行《中华人民共和(he)国民法典》《互联网信息服务深度合(he)成管理规定》等法律法规规定的义务，落实信息安(an)全主体责任(ren)，建(jian)立健全用户注册、算(suan)法机制机理审核、科技(ji)伦理审查、信息发布审核、数据安(an)全、个人信息保护、反电信网络诈骗、应急处置等管理制度。

中国社(she)会科学院大学互联网法治研(yan)究(jiu)中心主任(ren)刘晓春分析指(zhi)出，当前AI合(he)成声音的问题主要分为两种情况：一(yi)种是深度伪(wei)造，即用AI来生成合(he)成假的声音，即此前雷军(jun)和(he)张文宏的声音被伪(wei)造的情况；另一(yi)种是拿他人的声音来训练，比如多位配音演员(yuan)称声音被AI“偷走(zou)”，就是用他人的声音来训练成AI配音，用于配音朗诵等情况。

“这两种情况引起的问题有不太一(yi)样的地方，前者(zhe)可能会导致虚假信息传播(bo)，既有可能侵害(hai)人格的权益，也可能会造成谣言的流传，会对(dui)公共秩序(xu)造成损害(hai)，比如误导公众。有时还可能涉及欺诈，甚至有电信欺诈的问题；后者(zhe)主要是对(dui)于人格利益的人和(he)权益的侵害(hai)，主要是民事责任(ren)的问题。”刘晓春说。

王立梅(mei)表示(shi)，这些行为不仅(jin)侵犯个人的声音信息、肖像权和(he)名(ming)誉权等合(he)法权益，还可能误导消费者(zhe)，扰乱(luan)社(she)会秩序(xu)，损害(hai)公众对(dui)新(xin)技(ji)术新(xin)应用的信任(ren)感和(he)对(dui)数字空间的安(an)全感。

律师：平台若未履行审核义务，或被追究(jiu)连带责任(ren)

《法治日报(bao)》律师专家库成员(yuan)、福(fu)建(jian)省律协副(fu)会长、福(fu)建(jian)重宇合(he)众律师事务所首席合(he)伙人涂(tu)崇禹律师表示(shi)，AI合(he)成声音技(ji)术的滥用可能涉及对(dui)个人权益、社(she)会秩序(xu)及市(shi)场公平的侵害(hai)。《中华人民共和(he)国民法典》第一(yi)千零二十三条规定，自然人声音的保护参照适用肖像权保护的相关(guan)规定。未经(jing)允许使用他人声音，尤其(qi)是通过AI技(ji)术进行深度合(he)成并传播(bo)，构(gou)成对(dui)声音权的侵害(hai)。

对(dui)于平台应负的责任(ren)，涂(tu)崇禹律师分析，《生成式人工智(zhi)能服务管理暂行办法》等专项规定要求AI生成内容必须显著标识(shi)，平台需对(dui)合(he)成内容进行审核，并建(jian)立用户实名(ming)认(ren)证机制。平台若未履行内容审核义务，可能被追究(jiu)连带责任(ren)。另外，若商家利用AI模(mo)仿明(ming)星或专家声音进行直播(bo)带货，误导消费者(zhe)购买商品(pin)，可能违反《中华人民共和(he)国反不正当竞争法》，构(gou)成虚假宣传或不正当竞争。

作为平台方来说，应加(jia)强哪些方面管理和(he)制度建(jian)设？颜(yan)君建(jian)议，首先(xian)，平台应当加(jia)强深度合(he)成内容管理，采(cai)取技(ji)术或者(zhe)人工方式对(dui)深度合(he)成服务使用者(zhe)的输入(ru)数据和(he)合(he)成结果进行审核，并对(dui)使用深度合(he)成技(ji)术生成的信息内容进行显著标识(shi)，避免公众混淆。其(qi)次，平台应建(jian)立健全辟谣机制，发现利用深度合(he)成服务制作、复制、发布、传播(bo)虚假信息的，应当及时采(cai)取辟谣措施，保存有关(guan)记录，并向网信部门和(he)有关(guan)主管部门报(bao)告。此外，平台应健全投(tou)诉处理机制，及时响应权利人的维权请求，及时履行网络服务提供(gong)者(zhe)采(cai)取删除、屏蔽、断开链接等必要措施的合(he)理注意义务。

“未来，针对(dui)AI声音侵权等新(xin)型侵权行为，需要进一(yi)步明(ming)确平台在(zai)内容审核、数据使用、算(suan)法推(tui)荐等方面的责任(ren)。相关(guan)平台也应当尊重社(she)会公德和(he)伦理道德，主动履行社(she)会责任(ren)，加(jia)强行业自律，推(tui)动人工智(zhi)能与深度合(he)成技(ji)术向上向善(shan)发展，保护公民的合(he)法权益，共同维护良好的网络生态。”颜(yan)君说。

中国互联网协会调解工作委员(yuan)会首席调解员(yuan)郭玉(yu)忠(zhong)表示(shi)，在(zai)即将到来的AI时代，不仅(jin)个体的声音可能“被偷”，即便是多场景、多主体的互动式语音也存在(zai)被“高仿”的可能。当个人权益受到侵害(hai)，启动维权行动时，除了常规的对(dui)侵权行为收集证据以外，还要尽(jin)量提供(gong)侵权行为给己方造成的实际经(jing)济损失。如侵权方无恶意企图，建(jian)议先(xian)行与之沟通、投(tou)诉，要求下架相关(guan)产品(pin)从而减少己方损失，并根据配合(he)态度决(jue)定后续索赔路径及策(ce)略(lue)，如调解磋商、提起诉讼等。

“当前AI声音滥用的法律规制需多维度协同，增(zeng)强个人声纹信息保护意识(shi)，警(jing)惕AI声音诈骗，在(zai)技(ji)术发展与权益保护之间实现平衡。”涂(tu)崇禹律师说。

选题策(ce)划｜法治网研(yan)究(jiu)院

文｜余瀛波 时海媛