如果你最近在TikTok上，你可能会注意到一些名人宣传极其可疑产品的奇怪视频，比如听起来像机器人的泰勒·斯威夫特(Taylor Swift)向观众承诺免费赠送一套炊具。所有这些视频都是用生成式人工智能制作的骗局——这是该技术如何被用来在未经本人同意的情况下制作令人不安的虚拟克隆人的最新例子。

　　不用说，这种事情已经惹恼了很多名人。现在，国会正在提出新的立法，旨在打击人工智能的深度造假——特别是在涉及虚假名人代言和未经同意的人工智能生成的裸照等方面，这些已经成为网络和高中的一个问题。尽管旨在生成深度造假的网站和应用程序越来越受欢迎，但目前还没有全面的法律禁止创建人工智能图像。

　　这项名为《禁止人工智能欺诈法案》的新法案由众议员María Elvira Salazar (R-FL)和众议员Madeleine Dean (D-PA)提出，将为“肖像权和话语权”建立法律定义，有效地禁止使用人工智能深度造假在未经同意的情况下模仿另一个人，无论是活人还是死人。该草案宣称，“每个人都对自己的形象和声音拥有所有权”，并引用了最近几起人们被变成奇怪的人工智能机器人的事件。它特别提到了最近的病毒视频，其中有人工智能生成的歌曲模仿流行歌手的声音，比如贾斯汀·比伯、坏兔子、德雷克和威肯。

　　该法案还专门针对人工智能深度假色情内容，称“任何包含儿童性虐待材料、色情内容或包含亲密图像的数字描述或数字语音副本”都符合该法案对伤害的定义。

　　拟议的法案是参议院一项类似法案的伙伴，该法案被称为“培育原创，培育艺术和保持娱乐安全法案”(NO FAKES Act)，该法案于去年10月在病毒式传播的深度伪造德雷克歌曲之后提出。这项新法案与田纳西州立法者提出的另一项法案“确保声音和图像的相似性安全法案”(埃尔维斯法案)也是在同一天提出的。

　　考虑到这些法案似乎是对名人发疯的回应，无论是全部还是部分，最大的问题是它们是否会在实践中保护普通人，而不仅仅是那些拥有数百万美元唱片合同的流行明星的知识产权。

　　专攻深度伪造和其他网络骚扰的律师卡丽·戈德堡在接受Motherboard采访时表示:“该法案的起草确实着眼于名人和录音艺术家对他们的形象和声音的财产权。”“然而，我们的法律体系对待名人的知识产权与那些不在公众视线中的人的知识产权是不同的。”

　　戈德堡说，最常见的例子是狗仔队的照片。如果名人的照片在未经允许的情况下被拍摄并用于商业目的，该法律允许对名人进行一些赔偿。但对于一般人来说，他们的照片的权利完全属于拍摄他们照片的人，对于那些出于利润以外的原因复制他们照片的人，他们无能为力——除非他们有钱花在昂贵且往往漫长的法律程序上。

　　“对于普通人来说，当他们的形象被利用时，通常不是为了商业利益，而是为了让他们感到尴尬或骚扰;而在这种情况下，作恶者很少是那些有资源让诉讼对受害者有价值的人，”戈德堡说。

　　新法案规定，每个人都有权控制自己的声音和形象，反对深度伪造，但对非名人的规定在很大程度上取决于受害者证明受到伤害。具体来说，这意味着证明深度造假造成了“身体或身体伤害”，造成了“严重的情绪困扰”，或者本质上是露骨的性行为。

　　当然，所有这一切都是为了监管一个更大问题的症状，即科技公司正在用从互联网上抓取的数据构建大规模人工智能系统，却没有强有力的措施来缓解它们不可避免地造成的伤害。在针对ChatGPT的开发商OpenAI的持续诉讼中，该公司最近辩称，它不应该因为使用非法和受版权保护的材料训练人工智能模型而受到惩罚，因为不这样做就“不可能”创建人工智能系统。

　　但OpenAI、微软(Microsoft)和meta等公司构建的黑盒人工智能系统的本质，实际上保证了这些糟糕的事情将会发生。最近，研究人员在一个用于训练市场上几乎所有主要人工智能系统的庞大数据集中发现了3000多张儿童性虐待材料的图像。企业也在努力确保它们的生成式人工智能系统能够过滤掉非法内容，在谷歌(Google)和必应(Bing)图片搜索结果的顶部发现了深度虚假色情内容。一个主要问题是，有许多小公司或个人开发的应用程序，只是为了创造未经同意的人工智能裸体，这些应用程序在主要的社交媒体平台上宣传他们的服务，并在应用程序商店中提供。

　　戈德堡说，最终，这些问题不会得到完全解决，除非建立这些人工智能系统的公司承担责任。

　　戈德堡说:“我们的社会真正需要的是在系统层面上攻击人工智能和深度造假，并追踪AppStore和GooglePlay等主流平台上的恶意产品，这些产品只是为了操纵图像。”“我们需要向搜索引擎施压，让它们不要引导人们浏览这些产品或推广发布这些图片的网站，我们需要要求它们为受害者简化删除内容的程序。”