即便(bian)是(shi)网友恶(e)搞(gao)，AI合(he)成(cheng)声(sheng)音(yin)的滥用，也(ye)已经让人(ren)们不胜其扰。雷军曾专门发视频回应关于他自己的AI声(sheng)音(yin)制品(pin)“雷军语音(yin)包”，并表示这给他带(dai)来了一(yi)些(xie)困扰，称“希望大家都不要玩了。”

（雷军回应AI语音(yin)的视频截(jie)图(tu)）

张文宏接(jie)受媒(mei)体采访时也(ye)表示，这样的账号“不止一(yi)个，且一(yi)直在变”，他多次向(xiang)平台投诉(su)但屡禁不绝，“这些(xie)假(jia)的AI合(he)成(cheng)信息就像蝗灾一(yi)样，一(yi)次又一(yi)次发生(sheng)，像漫(man)天飞过来的蝗虫一(yi)样害人(ren)。事实上，从平台投诉(su)结果(guo)来看(kan)，我觉得(de)最终也(ye)难以解决问题。”

法治网记者调查发现，当前AI合(he)成(cheng)声(sheng)音(yin)的滥用已经相当严重，但其制作成(cheng)本却很低廉。在某网购平台有商家公开售卖AI合(he)成(cheng)声(sheng)音(yin)技(ji)术(shu)，只需几十元，通过一(yi)句话就可以克隆任何声(sheng)音(yin)。

（相关网店截(jie)图(tu)）

在一(yi)些(xie)短视频平台上，也(ye)有不少博主推(tui)荐各种AI合(he)成(cheng)工具，还有博主发布“保(bao)姆级”声(sheng)音(yin)克隆教程，说是(shi)可以通过一(yi)小段声(sheng)音(yin)音(yin)频就可以制作出新闻稿件、短剧(ju)配音(yin)等AI制品(pin)，获得(de)上千点赞。

（相关教学视频截(jie)图(tu)）

乱象横(heng)生(sheng)，AI合(he)成(cheng)音(yin)视频的合(he)理使用边界在哪儿？

用AI生(sheng)成(cheng)他人(ren)声(sheng)音(yin)的现象频发，AI合(he)成(cheng)音(yin)视频的限度和边界在哪儿？中国政法大学数据法治研究院教授、中国法学会网络与信息法学研究会副会长王立(li)梅(mei)教授认为，AI合(he)成(cheng)音(yin)视频本质(zhi)上是(shi)一(yi)种技(ji)术(shu)使用行为，必须(xu)在法律(lu)的框架内规范进行。一(yi)般而言，AI合(he)成(cheng)技(ji)术(shu)的合(he)理使用边界在于是(shi)否获得(de)权利人(ren)的明确授权以及(ji)是(shi)否对社会造成(cheng)负面(mian)影响。

“一(yi)方面(mian)，法律(lu)保(bao)护自然人(ren)的声(sheng)音(yin)、肖像等权益，禁止未(wei)经授权的商业使用和可能造成(cheng)混淆或误导的行为；另一(yi)方面(mian)，根据《互联(lian)网信息服(fu)务深度合(he)成(cheng)管理规定》等要求，平台也(ye)应加强对AI合(he)成(cheng)内容(rong)的审核与标识，使用更加先进经济的技(ji)术(shu)手段加强检测(ce)和侵权治理，及(ji)时干预阻断侵权行为及(ji)其不良影响的扩散，有效平衡技(ji)术(shu)创新与个人(ren)权益保(bao)护之间的关系，切实担负起推(tui)动形成(cheng)良好网络生(sheng)态的主体责任。”王立(li)梅(mei)说。

北京(jing)互联(lian)网法院综合(he)审判三庭庭长颜(yan)君认为，在深度合(he)成(cheng)技(ji)术(shu)快速发展背景(jing)下，作为信息网络服(fu)务提供者，平台应严格履(lu)行《中华人(ren)民共和国民法典》《互联(lian)网信息服(fu)务深度合(he)成(cheng)管理规定》等法律(lu)法规规定的义务，落实信息安全主体责任，建立(li)健全用户注册、算法机制机理审核、科技(ji)伦理审查、信息发布审核、数据安全、个人(ren)信息保(bao)护、反电信网络诈骗、应急处(chu)置等管理制度。

中国社会科学院大学互联(lian)网法治研究中心主任刘(liu)晓春分析指出，当前AI合(he)成(cheng)声(sheng)音(yin)的问题主要分为两(liang)种情况：一(yi)种是(shi)深度伪造，即用AI来生(sheng)成(cheng)合(he)成(cheng)假(jia)的声(sheng)音(yin)，即此前雷军和张文宏的声(sheng)音(yin)被伪造的情况；另一(yi)种是(shi)拿他人(ren)的声(sheng)音(yin)来训练，比如多位配音(yin)演员称声(sheng)音(yin)被AI“偷走”，就是(shi)用他人(ren)的声(sheng)音(yin)来训练成(cheng)AI配音(yin)，用于配音(yin)朗诵等情况。

“这两(liang)种情况引(yin)起的问题有不太一(yi)样的地方，前者可能会导致虚假(jia)信息传播，既有可能侵害人(ren)格的权益，也(ye)可能会造成(cheng)谣言的流传，会对公共秩序造成(cheng)损害，比如误导公众。有时还可能涉及(ji)欺诈，甚至有电信欺诈的问题；后(hou)者主要是(shi)对于人(ren)格利益的人(ren)和权益的侵害，主要是(shi)民事责任的问题。”刘(liu)晓春说。

王立(li)梅(mei)表示，这些(xie)行为不仅侵犯个人(ren)的声(sheng)音(yin)信息、肖像权和名誉权等合(he)法权益，还可能误导消(xiao)费者，扰乱社会秩序，损害公众对新技(ji)术(shu)新应用的信任感和对数字空(kong)间的安全感。

律(lu)师：平台若未(wei)履(lu)行审核义务，或被追究连带(dai)责任

《法治日(ri)报》律(lu)师专家库成(cheng)员、福建省律(lu)协副会长、福建重宇(yu)合(he)众律(lu)师事务所首席(xi)合(he)伙人(ren)涂崇禹律(lu)师表示，AI合(he)成(cheng)声(sheng)音(yin)技(ji)术(shu)的滥用可能涉及(ji)对个人(ren)权益、社会秩序及(ji)市场公平的侵害。《中华人(ren)民共和国民法典》第一(yi)千零二十三条规定，自然人(ren)声(sheng)音(yin)的保(bao)护参照适用肖像权保(bao)护的相关规定。未(wei)经允许使用他人(ren)声(sheng)音(yin)，尤其是(shi)通过AI技(ji)术(shu)进行深度合(he)成(cheng)并传播，构成(cheng)对声(sheng)音(yin)权的侵害。

对于平台应负的责任，涂崇禹律(lu)师分析，《生(sheng)成(cheng)式人(ren)工智能服(fu)务管理暂行办法》等专项规定要求AI生(sheng)成(cheng)内容(rong)必须(xu)显著标识，平台需对合(he)成(cheng)内容(rong)进行审核，并建立(li)用户实名认证(zheng)机制。平台若未(wei)履(lu)行内容(rong)审核义务，可能被追究连带(dai)责任。另外(wai)，若商家利用AI模仿(fang)明星或专家声(sheng)音(yin)进行直播带(dai)货，误导消(xiao)费者购买商品(pin)，可能违反《中华人(ren)民共和国反不正当竞争(zheng)法》，构成(cheng)虚假(jia)宣传或不正当竞争(zheng)。

作为平台方来说，应加强哪些(xie)方面(mian)管理和制度建设？颜(yan)君建议，首先，平台应当加强深度合(he)成(cheng)内容(rong)管理，采取技(ji)术(shu)或者人(ren)工方式对深度合(he)成(cheng)服(fu)务使用者的输(shu)入数据和合(he)成(cheng)结果(guo)进行审核，并对使用深度合(he)成(cheng)技(ji)术(shu)生(sheng)成(cheng)的信息内容(rong)进行显著标识，避免公众混淆。其次，平台应建立(li)健全辟谣机制，发现利用深度合(he)成(cheng)服(fu)务制作、复制、发布、传播虚假(jia)信息的，应当及(ji)时采取辟谣措施，保(bao)存有关记录，并向(xiang)网信部门和有关主管部门报告。此外(wai)，平台应健全投诉(su)处(chu)理机制，及(ji)时响应权利人(ren)的维权请求，及(ji)时履(lu)行网络服(fu)务提供者采取删除、屏蔽、断开链接(jie)等必要措施的合(he)理注意义务。

“未(wei)来，针对AI声(sheng)音(yin)侵权等新型侵权行为，需要进一(yi)步明确平台在内容(rong)审核、数据使用、算法推(tui)荐等方面(mian)的责任。相关平台也(ye)应当尊重社会公德和伦理道德，主动履(lu)行社会责任，加强行业自律(lu)，推(tui)动人(ren)工智能与深度合(he)成(cheng)技(ji)术(shu)向(xiang)上向(xiang)善(shan)发展，保(bao)护公民的合(he)法权益，共同维护良好的网络生(sheng)态。”颜(yan)君说。

中国互联(lian)网协会调解工作委员会首席(xi)调解员郭玉忠表示，在即将到(dao)来的AI时代，不仅个体的声(sheng)音(yin)可能“被偷”，即便(bian)是(shi)多场景(jing)、多主体的互动式语音(yin)也(ye)存在被“高仿(fang)”的可能。当个人(ren)权益受到(dao)侵害，启动维权行动时，除了常规的对侵权行为收集证(zheng)据以外(wai)，还要尽量提供侵权行为给己方造成(cheng)的实际经济损失。如侵权方无恶(e)意企图(tu)，建议先行与之沟通、投诉(su)，要求下架相关产品(pin)从而减少己方损失，并根据配合(he)态度决定后(hou)续索(suo)赔路(lu)径及(ji)策略，如调解磋(cuo)商、提起诉(su)讼等。

“当前AI声(sheng)音(yin)滥用的法律(lu)规制需多维度协同，增强个人(ren)声(sheng)纹信息保(bao)护意识，警惕AI声(sheng)音(yin)诈骗，在技(ji)术(shu)发展与权益保(bao)护之间实现平衡。”涂崇禹律(lu)师说。

选题策划｜法治网研究院

文｜余瀛波(bo) 时海媛