半岛平台“燕姿不发歌的日子，我们有‘AI孙燕姿’陪伴。”在众多歌迷苦苦等待孙燕姿新歌的日子里，近日，“AI孙燕姿”闯入他们的耳朵，让不少歌迷大呼“过年了”。
有欣喜，也有不满。“只是音色有点像，其他方面都差很远。”在社交平台上，孙燕姿的铁杆歌迷评价，“气息、技巧、感情都没法比。”
随着“AI孙燕姿”“AI周杰伦”“AI陈奕迅”“AI林俊杰”等一众“AI歌手”相继诞生，除了关心“AI歌手”唱得像不像，更多人也对其合法性产生质疑。
近年来，随着技术应用更新迭代，人工智能（AI）不再遥不可及。尤其是AI换脸、AI绘画等推出之后，迅速成为普通人乐于尝试的新奇应用。
今年，在歌迷对孙燕姿出新歌、发唱片的呼唤声中，生成式人工智能带来了“AI孙燕姿”。
在某视频平台，“AI孙燕姿”的“发歌”速度让歌迷直呼过瘾。这些歌曲中既有孙燕姿的成名曲《天黑黑》《绿光》等，也有《好汉歌》《水星记》《发如雪》等其他歌手的代表作。其中，“AI孙燕姿”翻唱的周杰伦代表作《发如雪》已经突破160万的播放量。
这些歌曲由不同的用户上传，其中多位用户注明视频使用了AI音色替换技术（Sovits4.0）。
据某软件下载平台介绍，Sovits4.0模型是一款基于人工智能技术的学唱软件。通过自主学习和深度学习技术，Sovits4.0模型可以模拟出不同歌手的声音，并且可以在不同音域和曲调下进行演唱。用户只需要输入歌曲的歌词和曲调，就可以让Sovits4.0模型自动生成一首唱腔完美的歌曲，从而实现对歌曲的自主创作和演唱。
Sovits4.0模型修改自So-VITS-SVC 4.0项目。记者了解到，So-VITS-SVC是一个采用音色转换算法的开源项目，可以仅凭数段音频，训练出一个具备目标音色的声学模型，并能利用该模型较为便捷地对其他语音、歌声文件进行音色转换。
IT行业从业者小鱼（化名）告诉记者，有了Sovits4.0模型，AI翻唱实现起来很简单半岛平台。“安装Sovits4.0之后，准备一个说话人或演唱人的音频数据集，让AI根据这个数据集去训练声音模型。训练完模型后，准备一首歌曲，使用模型去推理，然后替换掉原歌曲中的声音。”AI声音合成技术因此成为许多网友口中的“零门槛上手”。
正是在这样的技术驱动下，伴随歌迷的呼声，“AI孙燕姿”应运而生。随即，“AI周杰伦”“AI陈奕迅”“AI林俊杰”等一众“AI歌手”相继诞生。
“与其他AI技术一样半岛平台，AI翻唱火热的背后，也有一系列法律问题。”北京大成律师事务所高级合伙人肖飒表示半岛平台。
翻唱作品大概率构成对于原作品的改编。一个翻唱行为要合法化，需要取得权利人的许可。肖飒指出，一首歌曲的产生，往往涉及诸多权利人，其著作权体系较为复杂。具体而言，可能包含该歌曲词曲作者的著作权、该歌曲演唱者作为表演者的权利以及相关公司作为录音录像制作者的权利。
“理想情况下需要取得前述所有权利人的许可，否则其翻唱行为极有可能侵犯前述主体的相应权利，从而需要承担侵权责任。即便是AI翻唱，也受到此种规则的限制。”肖飒说。
除了对原作品的侵权，我国民法典规定，民事主体的人格权受法律保护，任何组织或者个人不得侵害。“‘AI孙燕姿’在翻唱时如未经授权使用孙燕姿的肖像，则涉嫌侵害孙燕姿的肖像权。”北京市盈科律师事务所律师孟泽东表示。
民法典已经正式认可“声音”与肖像一样，属于对一个自然人身份识别的特征，享有人格权的保护。第1023条规定：对姓名等的许可使用，参照适用肖像许可使用的有关规定。对自然人声音的保护，参照适用肖像权保护的有关规定。
对“AI孙燕姿”的声音合成，需要使用孙燕姿本人的讲话、演唱声音进行训练。“根据民法典规定可知，未经声音所有人同意，其他人也不得以发表、复制、发行、出租、展览等方式使用或者公开声音所有人的声音。据此，使用某一自然人声音翻唱歌曲需要本人授权半岛平台。”肖飒指出。
但国际知识产权专家、暨南大学特聘教授孙远钊表示，一些问题尚处于灰色地带，需要透过未来的立法政策与司法实践予以厘清。
“如果在实际操作上的确如媒体所报道，先从歌手本人曾公开发表的演讲、访谈或表演中撷取零星片段，然后通过人工智能技术或工具分析，再合成转化成为网络上见到的各个翻唱版本，那么至少在筛选、合成的部分就没有发生侵害歌手本人的声音识别权利。”孙远钊说，由于这些翻唱的歌曲都是该歌手过去没有公开表演过的，所以也没有侵害其著作权或邻接权（表演者权）的问题。反而是翻唱他人的歌曲有可能对他人的作品构成侵权，但还是需要依据个案的具体情况分别研判。
“今年1月开始实施的《互联网信息服务深度合成管理规定》似提及相关内容，但实际上仍是灰色地带。同时，该规定作为行政规定，对于歌手本人的民事求偿基本上起不到什么作用。”孙远钊表示。
据媒体报道，日前孙燕姿前往长沙参加音乐节，被粉丝问到“AI孙燕姿”时，她表示“有听过这件事”。孙燕姿所在经纪公司则称，目前没有委请律师处理。
Sovits4.0整合包的使用说明特别指出，禁止使用该整合包对公众人物、政治人物或其他容易引起争议的人物进行模型训练。使用本整合包产出和传输的信息需符合中国法律、国际公约的规定、符合公序良俗。
记者注意到，在某视频平台的“AI孙燕姿”翻唱歌曲页面中，不少上传者声明，仅用于娱乐、非商业用途等，以期免除自身责任。我国著作权法也有规定，如果改编作品用于个人学习、研究或者欣赏，可以不经相关权利人的许可而使用。
不过，某视频平台会根据上传视频的播放量、评论量等给予上传者创作奖励。两位律师均指出，这已经不属于“个人学习、研究或者欣赏”的情形。“这种情况已经突破合理使用的限制，具有明显的引流目的和盈利属性，不能落入合理使用的保护范围。”孟泽东提出。
记者查询发现，类似问题不时发生，多地法院审理了相关案件。杭州互联网法院去年审理了一起“AI换脸”APP利用深度合成算法侵害他人肖像权的案件，判定APP开发者构成对原告肖像权的侵害。
在这起案件中，原告楼某某是一名古风汉服模特，经常在社交平台发布古风汉服照片和视频。楼某某发现被告公司运营的“AI换脸”APP中使用的是其拍摄的古风造型视频模板。用户可上传个人照片，替换掉视频模板中的人脸。换脸后的视频，用户可以将其保存并分享到其他平台。
法院审理认为，被告公司未经楼某某同意，利用深度合成技术使用其肖像制作了伪造视频，构成对楼某某肖像权的侵害，判决被告向楼某某赔礼道歉并赔偿损失5000元。
除了侵犯著作权、肖像权、声音权，西南政法大学网络空间治理研究院副院长、数字法治政府研究院研究员郑志峰提醒，人工智能是通用型技术，可以广泛赋能各个领域。各种人工智能应用都可能涉及侵权风险。例如自动驾驶汽车、诊疗人工智能等应用，因为产品缺陷造成交通事故、医疗事故，侵害物权、生命权、健康权、身体权等；人脸识别、深度伪造等技术，可能侵害他人的隐私权、个人信息权益。
著名人工智能和机器人学者汉斯·莫拉维克早在1988年就曾写道：“机器人最终将战胜我们，人类显然将面临灭绝。”
虽然我们目前对于“机器人战胜人类”还不必过于担忧，但随着人工智能技术的更新迭代和广泛应用，问题正在显现。从民事侵权到刑事犯罪，这显然更值得引起重视。
2020年，英国伦敦大学学院发布报告，列举了未来15年人工智能可能潜在协助犯罪分子的不同方式，如非法控制自动驾驶汽车作为武器、破坏信息系统、AI辅助跟踪、自主攻击无人机、深度合成技术以及大规模网络勒索等。
中国社会科学院法学研究所刑法研究室主任刘仁文在其文章中指出，人工智能带来的刑事风险除人工智能系统成为犯罪对象被不法攻击或操纵外，还有人工智能体被滥用于实施犯罪的工具性风险，如人工智能体被用于非法搜集公民个人信息、实施诈骗犯罪、侵害社会信用等风险，也有人工智能体脱离人类控制而严重侵害人类的风险。
记者查询发现，2017年9月，浙江绍兴警方便破获了全国首例利用人工智能技术窃取公民个人信息的案件。根据通报，警方截获了超10亿组公民个人信息。
被警方查封的平台叫“快啊”，提供图片验证码识别服务。该平台在破解、窃取、贩卖和盗用个人信息实施诈骗中有完整的链条，其中AI技术被运用在识别验证码这个环节。警方指出，该团伙所使用和训练的AI，已经能够识别出98%以上的验证码。
早在2014年，特斯拉创始人马斯克就提出“AI可能比核武器还要危险”。去年初，马斯克的话在自己身上应验，他成了AI应用的受害者。
“马斯克换脸诈骗案”在半年内骗取资金达数千万美元。诈骗分子通过换脸技术，伪造了一系列以假乱真的马斯克谈话视频，谎称其创办了加密货币交易平台，每天可以带来30%的基础收益。在去年举办的第六届世界智能大会上，360集团创始人周鸿祎援引马斯克的例子指出，AI安全能力建设已刻不容缓。
近日，杭州萧山检察院以制作、传播淫秽物品牟利罪对虞某提起公诉。案件并不特殊，让人担忧的是他制作淫秽物品的手段——AI换脸。虞某通过互联网下载淫秽视频，根据买家需要，使用不同女明星的形象，通过AI换脸技术进行“私人定制”。
类似违法犯罪不仅盯着公众人物，普通人同样无法抽离。此前，广州一女子在社交平台分享的照片，被不法分子通过AI技术“一键脱衣”，生成造谣图在网络上传播。相关话题一度被热议，不少网友称，是时候认真思考AI可能带来的风险了。
在上述伦敦大学学院发布的报告中，31位专家根据综合因素为协助犯罪的AI手段作了排名，深度合成技术被认为具有最现实、最紧迫和最大规模的危险。而上述诈骗案、传播淫秽物品牟利案以及引发讨论的“一键脱衣”事件，均由深度合成技术引发。
基于国内外AI应用已经引发的案例，肖飒总结，主要有诈骗、敲诈勒索、不正当竞争、损害司法公正等类型。“利用深度合成技术可以炮制各类证据特别是视听证据，不具备专业知识的人往往难以察觉。试想，如果诉讼参与人通过深度合成技术向法庭提交欺诈性书面或视听证据，将对司法工作带来极大挑战。”肖飒对此提出担忧。
记者就深度合成技术可能带来的风险，随机采访多位市民。他们的担忧也多在诈骗、敲诈勒索等方面。“如果有一天手机里传来‘孩子’的哭喊声，我肯定一下就慌神了。”一位妈妈告诉记者，这样的场景“太可怕了”。
AI应用已经产生或可能带来的法律风险，逐渐被更多人关注。如何在狂热的浪潮之下规范AI发展，让技术这把“双刃剑”更多发挥其有利的一面，需要认真思考半岛平台。对于AI涉及的数据管理、数据安全以及个人信息保护等规定散见于我国的不同法律之中。
基于实务中遇到的案例，肖飒认为，我国现有的法律基本能够处理AI引发的法律问题。“但是随着技术的高速发展，可能有一些极端的情况难以处理，法律法规有必要对这些特殊情况制定规则，以妥善解决相关问题。”
对于AI应用可能带来的新风险，多位受访人士建议，我国应尽早完善对人工智能技术发展应用的规范管理，强化伦理安全规范和顶层立法设计，适时推动人工智能领域专门立法。
郑志峰提出，新一轮人工智能热潮之所以“神奇”，关键在于数据、算法及算力三要素，需要重视对这三种要素的监管。其次，人工智能是一种可以依托具体场景百般变化的技术，不同应用场景中的人工智能各有特点，有必要针对不同应用场景的人工智能分别进行监管。
