2021年11月1日，《中华东谈主民共和国个东谈主信息保护法》（以下简称《个东谈主信息保护法》）崇敬实行勾引 处男，为我国个东谈主信息保护提供了更具系统性、针对性和可操作性的法律校服。三年来，各类数据处理者弃取了哪些方法强化个东谈主信息保护，濒临东谈主工智能等本领带来的新挑战，有哪些搪塞举措？

南齐大数据连络院推出“《个东谈主信息保护法》落地三周年”系列报谈，从案例访谒、应用实测、企业对话等方面，沟通连年个东谈主信息保衬限制的新变化与新履行，瞻望曩昔本领发展标的与挑战。

第一期，实测近期辘集热议的AI换声应用，但愿厘清AI奇迹提供者应负起的个东谈主信息保护和辘集内容安全义务。

继“AI换脸”后，“AI换声”也激发平时温煦和盘问，尤其是跟着声息被网罗、合成、效法的清闲越来越渊博，背后波及的个东谈主信息保护、辘集内容安全等问题迫害冷落。

比如国庆假期，有网民制作并上传多数雷军的AI音频，其中不乏骂东谈主、恶搞小米家具的语音，成为公论热门。

9月底，有东谈主运用AI伪造三只羊公司首创东谈主的灌音，也引得警方介入访谒……

南齐大数据连络院近期实测多款具备声息克隆智商的家具，发现名为“Reecho睿声”的AI应用对声息克隆险些不设限，诞假话论、乱骂言语、涉黄文句，齐可用他东谈主声息“读”出来。

当任何东谈主齐能松驰生成“以伪乱真”的克隆东谈主声况兼公开共享，若何保险当事东谈主权益？AI奇迹提供者又该若何履行个东谈主信息保护和辘集内容安全义务？

克隆东谈主声无需任何授权

语音合成本领应用已久，举例舆图软件的导航语音包以及AI歌手等齐是相同本领的产物。AI声息克隆本领被罪犯分子运用也非清新事。早在2021年头，我国公安部网安局就露馅过运用AI本领进行语音欺诈案例。而辘集安全公司McAfee客岁开展的一项访谒罢了露馅，10%的成年受访者曾碰到AI语音欺诈，另有15%暗示知谈其他东谈主碰到过相同骗局。

跟着AI声息本领发展以及应用门槛的进一步裁汰，互联网上出现不少“开箱即用”的AI声息克隆应用。举例近期因三只羊公司“灌音门”以及“雷军骂东谈主语音”等事件受温煦的“Reecho睿声”，用户可借该应用松驰克隆任何东谈主的声息，况兼能公开共享检会告捷的模子，由此激发的信息安全问题迫害小觑。

早前报谈

“雷军”骂东谈主，雷军怒了

“三只羊”灌音门，警方更阑通报！

“Reecho睿声”为深圳市言域科技有限公司（下称“言域科技”）旗下家具，该公司暗示，三只羊“灌音门”以及“雷军骂东谈主”的伪造语音均出自“Reecho睿声”。天眼查数据露馅，言域科技客岁12月诞生，注册本钱107万元，近期完成天神轮融资，投资方为奇绩创坛。其官网先容，Reecho睿声语音大模子是一款具备声息克隆以及文生音频智商的AI大模子，现在提供“瞬时克隆”和“专科克隆”两种声息克隆样子。

南齐大数据连络院实测发现，在“Reecho睿声”上克隆声息的历程十分简便。用户使用手机号码简便注册告捷后，若使用“瞬时克隆”智商，只需上传一段5-25秒的音频文献算作检会素材，AI就会自动学习并生成一个克隆扮装，指挥学生随后用户便可用该克隆扮装念出恣意文本内容。从上传素材、输入文本到输出音频，恭候时刻不卓越3分钟，且生见效劳虽在心境进展力上仍有欠缺，但与真东谈主声息已十分接近。要是付费使用精度更高的“专科克隆”，用户需提供1—60分钟的检会素材供AI长远学习检会，并进行实名登记，但已经毋庸提供任何素材已获授权的讲授材料。

侵权模子仍未下架

值得提防的是，“Reecho睿声”挑升诞生“声息市集”板块，用户无需提供任何版权讲授或合规快活，便可把我方检会告捷的东谈主声模子共享至该板块，供其他用户松驰使用。10月23日，南齐连络员在此声息市集内发现“周杰伦”“郭德纲”“刘亦菲”等多数闻明东谈主士的声息克隆模子，连已故球星科比、主抓东谈主罗京的声息也被制成模子。用户只需将声息模子加入扮装库，输入恣意语句，即可制作对应东谈主物的AI配音。

“雷军骂东谈主”伪造语音激发温煦后，言域科技首创东谈主谢伟铎曾向媒体暗示，公司会参照其他UGC平台的样子去经管，在必要时积极谐和权柄方诉求进行处理；其已接到小米公司的干系，正奉告用户下架或修改波及雷军的内容。但适度10月23日，南齐连络员看到“Reecho睿声”上仍有三个名为“雷军”的克隆声息模子可正常使用。页面数据露馅，三个“雷军”模子分袂于10月4日、12日、21日上架，内容生成量最高的“雷军”已被使用超80万次，生成超4500万字符内容。

适度10月23日，“Reecho睿声”上仍有三个名为“雷军”的克隆声息模子可正常使用。

不良言论音频可松驰生成

针对部分用户运用“Reecho睿声”制违法搞、瑕瑜语音，谢伟铎曾暗示，有些配音照实不太精致，但言域科技仅仅创作器用提供方，莫得浪掷力量抑止事态演变。其以为，算作AI语音克隆器用，不太合乎在剧本内容莫得赫然罪犯的情况下过多阻拦用户的创作。此外，言域科技在三只羊“灌音门”事件后讲述称，其正在部署包括强化的实名认证机制，强化的明锐词多维度智能侦测预警，以及可溯源音频水印等多重安全方法。

然则，10月23日，南齐连络员在“Reecho睿声”上测试发现，该应用对用户分歧理语音生成需求的监测或警示十分不及。在其“声息市集”内松驰挑选一款东谈主声模子，比如“雷军”“撒贝宁”等，均可条件“该东谈主声”证据用户输入内容，了了且完好意思地读出相应文本，即即是含有瑕瑜、乱骂、涉黄、涉暴、涉恐、诞妄的内容，也齐畅行无阻。

多款同类家具设有场景限定

有业内东谈主士向南齐连络员暗示，言域科技在家具运营上颇为“斗胆”：国内虽有不少企业家具也可末端视同声息克隆效劳，但大多设有身份考证或场景限定。

南齐大数据连络院对国内提供声息克隆智商的AI奇迹、影视裁剪、语音助手、舆图导航等不同类型家具进行了实测。其中，腾讯云声息工坊为邀请测试家具，需要用户提交请求后与专东谈主干系；豆包声息复刻大模子条件用户登记身份证号、完成东谈主脸认证后方可使用；魔音工坊限定用户必须通过微信小体式即时录制音频；剪映、高德舆图、“小爱同学”“Jovi语音”均条件用户即时录制诵读指定文本的音频。以上七款家具均不允许向非特定用户共享声息克隆模子。

前述业内东谈主士先容，条件用户即时录制音频，能裁汰用户从互联网上截取他东谈主音频用于检会的可能性；条件素材为指定文本内容，能匡助被灌音者察觉音频内容用途；条件用户实名认证，能为发生侵权纠纷时回想始作俑者提供匡助。最要津的少许是，迫害用户松驰共享声息克隆模子，能裁汰模子被花消的可能性。

南齐对8款具备声息克隆智商的家具进行了实测。

未经许可处理东谈主声组成侵权

个东谈主声息中包含的声纹信息具备可识别性，能以电子神情记载，能关联到惟一当然东谈主，是生物识别信息，属于《个东谈主信息保护法》规则的明锐个东谈主信息之一。2023年7月，国度网信办等七部门蚁集公布了《生成式东谈主工智能奇迹经管暂行方针》，规则了AI奇迹提供者应当照章承担辘集信息内容分娩者包袱，履行辘集信息安全义务；波及个东谈主信息的，照章承担个东谈主信息处理者包袱，履行个东谈主信息保护义务。

本年4月，北京互联网法院宣判的世界首例“AI声息侵权案”指出，若未经许可，将可识别的当然东谈主声息治愈成AI家具组成侵权。北京互联网法院党组成员、副院长、二级高档法官赵瑞罡，北京互联网法院审判委员会专职委员孙铭溪，北京互联网法院政事部副主任田涵撰文指出，声息不错成为个东谈主信息，声息（声纹）信息与个东谈主安全径直关联。声息算作关乎当然东谈主东谈主格的关键东谈主格权益，AI本领奇迹开导者在使用当然东谈主声息时应当起到较高的提防旨务。关联主体网罗、使用当然东谈主声息算作数据进行AI化处理，需得回当然东谈主的正当授权。

南齐连络员实测发现，前述“AI声息侵权案”被告之一的魔音工坊现已在用户使用声息克隆功能前，强制用户必须阅读奇迹公约至少5秒，并手动点击证据按钮，声明检会素材为本东谈主声息。此外，剪映、“小爱同学”“Jovi语音”等在录制音频前也条件用户再次证据可意用户公约。

相较下，“Reecho睿声”虽在“使用匡助”文档中暗示迫害使用其奇迹克隆或生成任何骚扰版权、违抗谈德伦理或违抗法律法例的内容，但在“瞬时克隆”样子下，用户只会在账户注册时被辅导阅读阴事计谋等文档，尔后上传素材、生成模子、公开共享等操作均再无显赫辅导。

“Reecho睿声”仅在“使用匡助”文档中辅导用户不行生成违纪内容。

垦丁讼师事务所讼师叶丹妮暗示，民法典规则，辘集奇迹提供者知谈梗概应当知谈用户运用其辘集奇迹侵害他东谈主民事权益，未弃取必要方法的，与该辘集用户承担连带包袱。要是AI声息克隆平台有发布或社区功能，明知有侵权配音仍进行推选，这种情况下会因为连带侵权而担责。

泰和泰（深圳）讼师事务所讼师洪瑞成也暗示，证据《生成式东谈主工智能奇迹经管暂行方针》，AI奇迹提供者需要确保检会处理行径数据正当，对使用者的输入信息及使用记载履行保护义务；如发现罪犯内容，奇迹提供者有义务实时弃取罢手生成、罢手传输、排斥等惩办方法。

南边齐市报（nddaily）、N视频报谈

出品：南齐大数据连络院 数据安全治理与发展课题组

采写：南齐连络员 李伟锋 实习生 纪依

（南齐记者杨柳对本文亦有孝敬）勾引 处男