即便是网友恶(e)搞，AI合成声音的滥用，也已经(jing)让人们不胜其扰。雷军曾专门发视频(pin)回应(ying)关于他自己(ji)的AI声音制品“雷军语音包”，并表示(shi)这给他带(dai)来了一些困扰，称“希望大家都不要玩了。”

（雷军回应(ying)AI语音的视频(pin)截图）

张文宏接受媒体采访时也表示(shi)，这样的账号“不止一个，且一直在变”，他多次向平台投诉但屡禁不绝，“这些假的AI合成信息就像蝗灾一样，一次又一次发生(sheng)，像漫天飞过(guo)来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终(zhong)也难(nan)以解(jie)决问题。”

法治网记者调查发现(xian)，当前(qian)AI合成声音的滥用已经(jing)相当严重，但其制作(zuo)成本却很(hen)低廉。在某(mou)网购(gou)平台有商家公开(kai)售卖AI合成声音技术(shu)，只需几十元，通过(guo)一句话就可以克隆任何声音。

（相关网店截图）

在一些短视频(pin)平台上，也有不少博主推荐(jian)各(ge)种(zhong)AI合成工具，还(hai)有博主发布“保姆级”声音克隆教程(cheng)，说是可以通过(guo)一小段声音音频(pin)就可以制作(zuo)出新闻稿件、短剧配音等AI制品，获得上千点赞。

（相关教学视频(pin)截图）

乱象(xiang)横生(sheng)，AI合成音视频(pin)的合理使用边(bian)界在哪儿(er)？

用AI生(sheng)成他人声音的现(xian)象(xiang)频(pin)发，AI合成音视频(pin)的限度和边(bian)界在哪儿(er)？中国政法大学数据法治研究院教授、中国法学会网络与(yu)信息法学研究会副会长王立梅(mei)教授认(ren)为，AI合成音视频(pin)本质上是一种(zhong)技术(shu)使用行为，必须在法律的框架内规范进(jin)行。一般而言，AI合成技术(shu)的合理使用边(bian)界在于是否(fou)获得权利(li)人的明确授权以及(ji)是否(fou)对社会造成负面影响。

“一方面，法律保护自然人的声音、肖像等权益(yi)，禁止未经(jing)授权的商业使用和可能造成混淆或误导的行为；另(ling)一方面，根据《互(hu)联网信息服务(wu)深度合成管理规定》等要求，平台也应(ying)加强对AI合成内容的审核与(yu)标识，使用更加先进(jin)经(jing)济的技术(shu)手(shou)段加强检测和侵权治理，及(ji)时干预阻断侵权行为及(ji)其不良影响的扩散，有效平衡技术(shu)创(chuang)新与(yu)个人权益(yi)保护之间的关系(xi)，切实担负起推动(dong)形成良好网络生(sheng)态的主体责任。”王立梅(mei)说。

北京互(hu)联网法院综合审判三庭庭长颜君(jun)认(ren)为，在深度合成技术(shu)快速发展背景下，作(zuo)为信息网络服务(wu)提供者，平台应(ying)严格履行《中华人民共和国民法典》《互(hu)联网信息服务(wu)深度合成管理规定》等法律法规规定的义务(wu)，落实信息安全(quan)主体责任，建立健全(quan)用户注册、算(suan)法机制机理审核、科技伦理审查、信息发布审核、数据安全(quan)、个人信息保护、反电信网络诈骗、应(ying)急(ji)处置等管理制度。

中国社会科学院大学互(hu)联网法治研究中心主任刘晓春分析指出，当前(qian)AI合成声音的问题主要分为两种(zhong)情况(kuang)：一种(zhong)是深度伪造，即用AI来生(sheng)成合成假的声音，即此前(qian)雷军和张文宏的声音被伪造的情况(kuang)；另(ling)一种(zhong)是拿他人的声音来训练，比如多位配音演员称声音被AI“偷走”，就是用他人的声音来训练成AI配音，用于配音朗诵等情况(kuang)。

“这两种(zhong)情况(kuang)引起的问题有不太一样的地方，前(qian)者可能会导致虚假信息传播，既有可能侵害人格的权益(yi)，也可能会造成谣言的流传，会对公共秩(zhi)序造成损害，比如误导公众(zhong)。有时还(hai)可能涉及(ji)欺诈，甚至有电信欺诈的问题；后者主要是对于人格利(li)益(yi)的人和权益(yi)的侵害，主要是民事责任的问题。”刘晓春说。

王立梅(mei)表示(shi)，这些行为不仅侵犯个人的声音信息、肖像权和名誉(yu)权等合法权益(yi)，还(hai)可能误导消费(fei)者，扰乱社会秩(zhi)序，损害公众(zhong)对新技术(shu)新应(ying)用的信任感(gan)和对数字(zi)空间的安全(quan)感(gan)。

律师：平台若未履行审核义务(wu)，或被追究连带(dai)责任

《法治日报》律师专家库(ku)成员、福建省律协副会长、福建重宇合众(zhong)律师事务(wu)所首席合伙人涂崇禹律师表示(shi)，AI合成声音技术(shu)的滥用可能涉及(ji)对个人权益(yi)、社会秩(zhi)序及(ji)市场公平的侵害。《中华人民共和国民法典》第一千零二十三条(tiao)规定，自然人声音的保护参照适用肖像权保护的相关规定。未经(jing)允许使用他人声音，尤其是通过(guo)AI技术(shu)进(jin)行深度合成并传播，构成对声音权的侵害。

对于平台应(ying)负的责任，涂崇禹律师分析，《生(sheng)成式人工智能服务(wu)管理暂行办法》等专项规定要求AI生(sheng)成内容必须显著标识，平台需对合成内容进(jin)行审核，并建立用户实名认(ren)证(zheng)机制。平台若未履行内容审核义务(wu)，可能被追究连带(dai)责任。另(ling)外，若商家利(li)用AI模仿(fang)明星或专家声音进(jin)行直播带(dai)货(huo)，误导消费(fei)者购(gou)买商品，可能违反《中华人民共和国反不正当竞争法》，构成虚假宣(xuan)传或不正当竞争。

作(zuo)为平台方来说，应(ying)加强哪些方面管理和制度建设？颜君(jun)建议，首先，平台应(ying)当加强深度合成内容管理，采取技术(shu)或者人工方式对深度合成服务(wu)使用者的输入数据和合成结果进(jin)行审核，并对使用深度合成技术(shu)生(sheng)成的信息内容进(jin)行显著标识，避(bi)免公众(zhong)混淆。其次，平台应(ying)建立健全(quan)辟谣机制，发现(xian)利(li)用深度合成服务(wu)制作(zuo)、复制、发布、传播虚假信息的，应(ying)当及(ji)时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。此外，平台应(ying)健全(quan)投诉处理机制，及(ji)时响应(ying)权利(li)人的维权请(qing)求，及(ji)时履行网络服务(wu)提供者采取删除、屏蔽、断开(kai)链接等必要措施的合理注意(yi)义务(wu)。

“未来，针对AI声音侵权等新型侵权行为，需要进(jin)一步明确平台在内容审核、数据使用、算(suan)法推荐(jian)等方面的责任。相关平台也应(ying)当尊(zun)重社会公德和伦理道德，主动(dong)履行社会责任，加强行业自律，推动(dong)人工智能与(yu)深度合成技术(shu)向上向善发展，保护公民的合法权益(yi)，共同维护良好的网络生(sheng)态。”颜君(jun)说。

中国互(hu)联网协会调解(jie)工作(zuo)委员会首席调解(jie)员郭玉忠表示(shi)，在即将到来的AI时代，不仅个体的声音可能“被偷”，即便是多场景、多主体的互(hu)动(dong)式语音也存在被“高仿(fang)”的可能。当个人权益(yi)受到侵害，启动(dong)维权行动(dong)时，除了常规的对侵权行为收集证(zheng)据以外，还(hai)要尽量提供侵权行为给己(ji)方造成的实际经(jing)济损失(shi)。如侵权方无恶(e)意(yi)企图，建议先行与(yu)之沟通、投诉，要求下架相关产品从而减(jian)少己(ji)方损失(shi)，并根据配合态度决定后续索赔(pei)路径及(ji)策略，如调解(jie)磋商、提起诉讼等。

“当前(qian)AI声音滥用的法律规制需多维度协同，增(zeng)强个人声纹(wen)信息保护意(yi)识，警惕AI声音诈骗，在技术(shu)发展与(yu)权益(yi)保护之间实现(xian)平衡。”涂崇禹律师说。

选题策划(hua)｜法治网研究院

文｜余瀛波 时海媛