来源：环球科学
原文作者：Nicola Jones
人工智能时代下，有些情形正在挑战保护人权的法律。
斯嘉丽·约翰逊（Scarlett Johansson）认为OpenAI对话机器人的声音有意模仿她的声音。来源：Samir Hussein/WireImage via Getty
不久前，演员斯嘉丽·约翰逊（Scarlett Johansson）指责OpenAI的一个对话机器人的声音很像她本人的声音。但这并不是她的声音，OpenAI公司使用别人的录音创造了这个声音。但公司出于对约翰逊的尊重，停止使用了该声音。媒体热议后，更多人开始讨论我们对自己作为“人”（persona）的各种权利。在生成式人工智能（genAI）时代，现有法律足以保护个人形象和声音吗？
加拿大约克大学知识产权学者Carys Craig说，答案并不绝对清晰。Craig将在加拿大律师协会网络直播上就这一主题发表演讲。
去年，美国国会的多位成员曾呼吁在国家层面上制定保护这类权利的联邦法律。有些法律学者表示，需采取行动改善美国的隐私权。但他们也提醒道，匆匆写就的法律可能会破坏言论自由，或是带来其他问题。“这个问题很复杂，”华盛顿特区的非营利消费者呼吁团体的法律分析师Meredith Rose说，“很多地方都会出差错。”
Craig说：“草率的监管措施可能是个错误。”
假冒的我
GenAI很容易被用来克隆声音或面部，生成“深伪”（deepfake）内容，形成相似的数字化个人。有些人创作深伪是为了娱乐，推广教育或研究。不过，深伪也被用来传播不实信息，干预选举，合成未经同意的性影像，或实施诈骗。
Craig说，许多国家都出台了防止这类有害和不法行为的法律，无论这些行为中是否涉及AI。但在保护个人形象方面，现有法律可能并不足够。
Craig说，版权在这里并不适用，因为版权的作用是为了保护特定作品。她说：“比如，从知识产权的角度说，我们对我们的声音是否有使用权的回答是没有。”大部分关于版权和AI的讨论更关注如何将版权内容用于训练这项技术，以及它所产出的新内容是否能受版权保护。
除了版权法，包括美国部分州在内的一些地区推出了“名誉权”，允许个人控制关于他们图像的商业使用，以保护名人免受经济损失。比如在1988年，早在AI到来之前，歌手和演员贝特·迈德尔（Bette Midler）就在与福特汽车公司（Ford Motor Company）的一场官司中胜诉，福特让一位声音和她很像的歌手在广告中演唱她的歌曲。1992年，游戏节目主持人凡娜·怀特（Vanna White）在与三星（Samsung）美国分部的官司中胜诉，因为三星在广告中使用了一个打扮成她的机器人。
“我们已经有过人对机器人胜诉的案件了，”Rose说，有了AI后，以后的案件只会越来越疯狂。
还有更多需要在法庭上接受检验。比如说唱歌手德雷克（Drake） 4月发布了一首单曲，使用了AI合成的已故说唱歌手图派克·夏库尔（Tupac Shakur）的声音。在收到夏库尔遗产律师的一封“终止函”（cease-and-desist letter）后，Drake从在线平台撤下了这首单曲。但Cragi说，这首歌的AI内容是否属于违法并不好说。田纳西州今年通过的《确保肖像、声音和图像安全法案》（ELVIS）旨在保护各个知名度的配音演员，确保他们声音不会被不公平地使用，包括AI克隆的使用。
在美国，演员已经有一些针对AI的合同保护，要求制片人不得在未取得个人明确同意前使用某个演员的数字复制品，这一条款让去年12月好莱坞的电影演员工会-电视和广播演员工会的罢工事件告一段落。
与此同时，个别科技公司也推出了防止genAI误用的政策。比如加州旧金山的OpenAI没有公开它用来给对话机器人做克隆声音的软件，并表示“生成类似人类声音的言语存在严重风险”。针对测试该技术的合作伙伴的使用政策禁止其他人或机构在未获得同意或法律允许的前提下进行模仿。
其他机构试图打造能防止不当使用的技术：美国联邦贸易委员会发起了保护消费者免受人工智能声音克隆用于诈骗和其他伤害的挑战，并在4月宣布了的获胜者。获胜技术包括在录音时给真实音频打水印，以及能检测genAI生成音频的工具。
范围广泛
比演员失去收入更令人担忧的，Rose和Craig说，是将AI克隆的个人样貌用于未经同意的色情内容。Rose说：“我们关于未经同意的影像的法律本来就很少，也不适用，更不要说对AI的内容了。”她说，如今，深伪色情内容很容易生成，包括生成未成年人的样子，这些非常需要警惕。一些法律学者，如弗吉尼亚大学的Danielle Citron正在呼吁法律改革，将“亲密权”（intimate privacy）纳入美国公民权利——和投票权和公正审判权享有同等地位。
目前的名誉权法律不适用于非名人，Rose说，“名誉权主要针对商业应用场景中的特殊知名人士，所以它能保护斯嘉丽·约翰逊，而不能保护未经同意的影像中的一个16岁的女孩。”
不过，扩大美国名誉权保护范围的提案可能会带来意想不到的后果，Rose说。她已经在给美国国会写信，担心有些立法提议可能会被一些大公司别有用心地利用。比如一个生成新照片的智能手机app可能会在服务条款里加一条，让这个app拥有不受限制地使用用户相貌的不可撤销的许可。
另外还有“二重身”（doppelganger）问题，Rose说，AI随机生成的个人照片或声音至少会和一个真实人类的外貌和声音很像，而这个人可能会要求赔偿。
旨在保护个人的法律如果太极端就会威胁到言论自由。“如果你的权利范围太大，自由表达就会受限，”Craig说，“我们给版权拥有者一定的控制权限有其道理，它能给人灵感，激发新事物，促进文化交流。”基于或改编自原版的模仿作品往往属于合法的合理使用，她说，“这些法律如果收得过紧可能会让模仿作品无路可走。”
原文Who owns your voice? Scarlett Johansson OpenAI complaint raises questions标题发表在2024年5月29日《自然》的News Explainer版块上
© nature
Doi：10.1038/d41586-024-01578-4
本文由施普林格·自然上海办公室负责翻译。中文内容仅供参考，一切内容以英文原版为准。欢迎转发至朋友圈，如需转载，请邮件China@nature.com。未经授权的翻译是侵权行为，版权方将保留追究法律责任的权利。
© 2024 Springer Nature Limited. All Rights Reserved
