微软呼吁国会议员对人工智能生成的深度造假进行监管，以防止欺诈、滥用和操纵。微软副主席兼总裁布拉德·史密斯呼吁政策制定者采取紧急行动，保护选举，保护老年人免受欺诈，保护儿童免受虐待。
史密斯在一篇博客文章中表示:“虽然科技行业和非营利组织最近已采取措施解决这一问题，但很明显，我们的法律也需要改进，以打击深度造假欺诈。”“美国能做的最重要的事情之一是通过一项全面的深度造假欺诈法规，以防止网络犯罪分子利用这项技术窃取普通美国人的信息。”
微软希望制定一项“深度造假欺诈法规”，为执法官员提供一个法律框架，以起诉人工智能产生的欺诈行为。史密斯还呼吁立法者“确保我们关于儿童性剥削和性虐待以及未经同意的亲密图像的联邦和州法律得到更新，以包括人工智能生成的内容。”
参议院最近通过了一项打击色情深度造假的法案，允许未经同意的色情人工智能深度造假的受害者起诉其创造者，要求赔偿损失。该法案通过的几个月前，初高中学生被发现伪造女同学的露骨照片，喷子们用人工智能生成的泰勒·斯威夫特(Taylor Swift)的假照片淹没了X。
微软不得不对自己的人工智能产品实施更多的安全控制，此前该公司的人工智能图像创建器Designer存在漏洞，允许人们创建泰勒·斯威夫特(Taylor Swift)等名人的露点图像。史密斯说:“私营部门有责任创新和实施防止人工智能被滥用的保障措施。”
虽然美国联邦通信委员会已经禁止使用人工智能生成的语音进行机器人通话，但生成式人工智能可以很容易地创建假音频、图像和视频——在2024年总统大选期间，我们已经看到了这一点。本周早些时候，埃隆·马斯克在X上分享了一段深度伪造的视频，欺骗副总统卡玛拉·哈里斯，这一帖子似乎违反了X自己反对合成和操纵媒体的政策。
微软希望像马斯克这样的帖子被明确地标记为深度造假。“国会应该要求人工智能系统提供商使用最先进的来源工具来标记合成内容，”史密斯说。“这对于在信息生态系统中建立信任至关重要，并将帮助公众更好地了解内容是人工智能生成的还是被操纵的。”
订阅汤姆·沃伦的《记事本》，这是一份每周时事通讯，揭示微软在人工智能、游戏和计算领域划时代的押注背后的秘密和战略。订阅获取最新的直接到您的收件箱。
7美元/月
把每一期的记事本直接发到你的收件箱。第一个月免费。
70美元/年
以折扣价购买一年的记事本。第一个月免费。
100美元/人/年
获得一年的记事本和命令行。第一个月免费。
我们接受信用卡、苹果支付和谷歌支付。
