即便是网友恶搞，AI合成声(sheng)音的滥用，也已经让人们不胜(sheng)其扰。雷军曾专门发视(shi)频(pin)回应关于他自己的AI声(sheng)音制品“雷军语音包(bao)”，并表示这给他带来了一些困扰，称“希望大家都不要玩了。”

（雷军回应AI语音的视(shi)频(pin)截图）

张文宏接受(shou)媒(mei)体采访时(shi)也表示，这样的账号“不止一个，且一直在变”，他多次向平台投诉但屡禁不绝，“这些假的AI合成信息(xi)就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事(shi)实上，从平台投诉结(jie)果来看，我(wo)觉得(de)最终也难以解决问题。”

法治网记者调查发现，当前AI合成声(sheng)音的滥用已经相当严重，但其制作成本却很低廉。在某网购平台有(you)商家公开售卖AI合成声(sheng)音技术，只需几十元，通过一句话就可以克(ke)隆(long)任(ren)何声(sheng)音。

（相关网店(dian)截图）

在一些短视(shi)频(pin)平台上，也有(you)不少博主(zhu)推荐各(ge)种AI合成工具，还有(you)博主(zhu)发布“保姆(mu)级”声(sheng)音克(ke)隆(long)教程(cheng)，说是可以通过一小段声(sheng)音音频(pin)就可以制作出新闻(wen)稿件、短剧配音等(deng)AI制品，获得(de)上千点赞。

（相关教学视(shi)频(pin)截图）

乱象横生，AI合成音视(shi)频(pin)的合理使用边界在哪儿？

用AI生成他人声(sheng)音的现象频(pin)发，AI合成音视(shi)频(pin)的限度(du)和边界在哪儿？中国政法大学数(shu)据(ju)法治研究院教授、中国法学会网络与信息(xi)法学研究会副会长王立梅教授认为，AI合成音视(shi)频(pin)本质上是一种技术使用行为，必须在法律的框架(jia)内规范进行。一般而言，AI合成技术的合理使用边界在于是否获得(de)权利人的明确授权以及是否对社(she)会造成负面影响。

“一方面，法律保护自然人的声(sheng)音、肖像等(deng)权益(yi)，禁止未经授权的商业使用和可能造成混淆或误(wu)导的行为；另一方面，根据(ju)《互联网信息(xi)服务深度(du)合成管理规定》等(deng)要求，平台也应加强对AI合成内容的审核与标识，使用更(geng)加先进经济的技术手(shou)段加强检(jian)测和侵权治理，及时(shi)干预阻断侵权行为及其不良影响的扩散，有(you)效平衡技术创新与个人权益(yi)保护之间的关系，切实担负起推动形成良好网络生态的主(zhu)体责任(ren)。”王立梅说。

北京互联网法院综合审判三庭庭长颜(yan)君认为，在深度(du)合成技术快速发展背景下，作为信息(xi)网络服务提供者，平台应严格履行《中华人民共和国民法典》《互联网信息(xi)服务深度(du)合成管理规定》等(deng)法律法规规定的义务，落实信息(xi)安全(quan)主(zhu)体责任(ren)，建立健全(quan)用户注册、算(suan)法机制机理审核、科技伦理审查、信息(xi)发布审核、数(shu)据(ju)安全(quan)、个人信息(xi)保护、反电信网络诈骗、应急处置等(deng)管理制度(du)。

中国社(she)会科学院大学互联网法治研究中心主(zhu)任(ren)刘(liu)晓春(chun)分析指出，当前AI合成声(sheng)音的问题主(zhu)要分为两种情况：一种是深度(du)伪造，即用AI来生成合成假的声(sheng)音，即此前雷军和张文宏的声(sheng)音被伪造的情况；另一种是拿他人的声(sheng)音来训练，比如(ru)多位配音演员称声(sheng)音被AI“偷(tou)走(zou)”，就是用他人的声(sheng)音来训练成AI配音，用于配音朗(lang)诵等(deng)情况。

“这两种情况引(yin)起的问题有(you)不太(tai)一样的地方，前者可能会导致虚假信息(xi)传播，既有(you)可能侵害人格的权益(yi)，也可能会造成谣言的流传，会对公共秩(zhi)序造成损害，比如(ru)误(wu)导公众。有(you)时(shi)还可能涉及欺诈，甚至有(you)电信欺诈的问题；后者主(zhu)要是对于人格利益(yi)的人和权益(yi)的侵害，主(zhu)要是民事(shi)责任(ren)的问题。”刘(liu)晓春(chun)说。

王立梅表示，这些行为不仅侵犯个人的声(sheng)音信息(xi)、肖像权和名誉权等(deng)合法权益(yi)，还可能误(wu)导消费者，扰乱社(she)会秩(zhi)序，损害公众对新技术新应用的信任(ren)感和对数(shu)字空(kong)间的安全(quan)感。

律师：平台若未履行审核义务，或被追究连(lian)带责任(ren)

《法治日报》律师专家库成员、福建省律协副会长、福建重宇合众律师事(shi)务所首席合伙人涂崇禹律师表示，AI合成声(sheng)音技术的滥用可能涉及对个人权益(yi)、社(she)会秩(zhi)序及市场公平的侵害。《中华人民共和国民法典》第一千零二十三条规定，自然人声(sheng)音的保护参照适用肖像权保护的相关规定。未经允许使用他人声(sheng)音，尤(you)其是通过AI技术进行深度(du)合成并传播，构成对声(sheng)音权的侵害。

对于平台应负的责任(ren)，涂崇禹律师分析，《生成式人工智能服务管理暂行办(ban)法》等(deng)专项规定要求AI生成内容必须显著标识，平台需对合成内容进行审核，并建立用户实名认证机制。平台若未履行内容审核义务，可能被追究连(lian)带责任(ren)。另外，若商家利用AI模仿明星(xing)或专家声(sheng)音进行直播带货，误(wu)导消费者购买商品，可能违反《中华人民共和国反不正当竞争法》，构成虚假宣传或不正当竞争。

作为平台方来说，应加强哪些方面管理和制度(du)建设？颜(yan)君建议(yi)，首先，平台应当加强深度(du)合成内容管理，采取技术或者人工方式对深度(du)合成服务使用者的输入数(shu)据(ju)和合成结(jie)果进行审核，并对使用深度(du)合成技术生成的信息(xi)内容进行显著标识，避免公众混淆。其次，平台应建立健全(quan)辟谣机制，发现利用深度(du)合成服务制作、复制、发布、传播虚假信息(xi)的，应当及时(shi)采取辟谣措施，保存有(you)关记录，并向网信部门和有(you)关主(zhu)管部门报告。此外，平台应健全(quan)投诉处理机制，及时(shi)响应权利人的维权请(qing)求，及时(shi)履行网络服务提供者采取删除、屏蔽、断开链接等(deng)必要措施的合理注意义务。

“未来，针对AI声(sheng)音侵权等(deng)新型侵权行为，需要进一步明确平台在内容审核、数(shu)据(ju)使用、算(suan)法推荐等(deng)方面的责任(ren)。相关平台也应当尊(zun)重社(she)会公德和伦理道德，主(zhu)动履行社(she)会责任(ren)，加强行业自律，推动人工智能与深度(du)合成技术向上向善发展，保护公民的合法权益(yi)，共同维护良好的网络生态。”颜(yan)君说。

中国互联网协会调解工作委员会首席调解员郭玉忠表示，在即将到来的AI时(shi)代，不仅个体的声(sheng)音可能“被偷(tou)”，即便是多场景、多主(zhu)体的互动式语音也存在被“高仿”的可能。当个人权益(yi)受(shou)到侵害，启动维权行动时(shi)，除了常规的对侵权行为收集证据(ju)以外，还要尽量提供侵权行为给己方造成的实际经济损失。如(ru)侵权方无恶意企(qi)图，建议(yi)先行与之沟通、投诉，要求下架(jia)相关产(chan)品从而减少己方损失，并根据(ju)配合态度(du)决定后续索赔路径及策略，如(ru)调解磋商、提起诉讼等(deng)。

“当前AI声(sheng)音滥用的法律规制需多维度(du)协同，增强个人声(sheng)纹(wen)信息(xi)保护意识，警(jing)惕(ti)AI声(sheng)音诈骗，在技术发展与权益(yi)保护之间实现平衡。”涂崇禹律师说。

选题策划｜法治网研究院

文｜余(yu)瀛波 时(shi)海媛