由人工智能生成的深度造假今年大放异彩，至少在让它看起来或听起来像名人做了一些不可思议的事情方面。
汤姆·汉克斯兜售牙科计划。教皇弗朗西斯穿着时髦的羽绒服。肯塔基州共和党参议员保罗(Rand Paul)。他穿着红色浴袍坐在国会大厦的台阶上。
但是明年总统大选之前会发生什么呢?
谷歌是首家表示将对人工智能生成的欺骗性政治广告贴上新标签的大型科技公司，这些广告可能会伪造候选人的声音或行为。现在，一些美国议员呼吁社交媒体平台X、Facebook和Instagram解释为什么他们没有这样做。
周四，两名民主党国会议员致信meta首席执行官马克·扎克伯格和X首席执行官琳达·亚卡里诺，对他们平台上出现的人工智能生成的政治广告表示“严重关切”，并要求双方解释他们正在制定的任何规则，以遏制对自由公平选举的危害。
明尼苏达州民主党参议员艾米·克洛布查尔(Amy Klobuchar)说，“他们是两个最大的竞选平台，选民有权知道他们设置了什么护栏。”他在接受美联社采访时表示。“我们只是问他们，‘你们不能这么做吗?你为什么不这么做?”这在技术上显然是可行的。”
克洛布查尔和纽约州民主党众议员伊维特·克拉克(Yvette Clarke)写给高管们的信。他警告说:“随着2024年大选的临近，政治广告中这类内容缺乏透明度，可能会导致与选举相关的错误信息和虚假信息在你们的平台上泛滥，这是危险的，选民往往会转而了解候选人和问题。”
周四，前身为Twitter的X和Facebook和Instagram的母公司meta没有回应记者的置评请求。克拉克和克洛布查尔要求这些高管在10月27日之前回答他们的问题。
这两家社交媒体公司面临压力之际，两位议员都在帮助领导监管人工智能生成的政治广告。克拉克今年早些时候提出的一项众议院法案将修改联邦选举法，要求在选举广告中包含人工智能生成的图像或视频时贴上标签。
克拉克周四在接受采访时说:“我认为，根据第一修正案，人们有权在社交媒体平台上发布他们想要发布的任何内容。”“我想说的是，你必须确保你发布了免责声明，并确保美国人民知道这是捏造的。”
克洛布查尔正在参议院发起一项配套立法，她的目标是在今年年底前通过这项立法。对她来说，“这就像是所需的最低限度”。与此同时，两位议员都表示，他们希望主要政论能自己带头，尤其是考虑到众议院目前的混乱局面，没有一位民选的议长。
谷歌表示，从11月中旬开始，它将要求对任何人工智能生成的选举广告做出明确的免责声明，这些广告会改变YouTube和其他谷歌产品上的人物或事件。谷歌的政策适用于美国和其他公司验证选举广告的国家。Facebook和Instagram的母公司meta没有针对人工智能生成的政治广告的特定规则，但有限制用于虚假信息的“伪造、操纵或转换”音频和图像的政策。
最近的一项两党参议院法案由克罗布查尔、密苏里州共和党参议员乔希·霍利(Josh Hawley)共同发起。而其他国家则会更进一步，禁止与联邦候选人有关的“具有实质性欺骗性”的深度造假，但恶搞和讽刺作品除外。
人工智能生成的广告已经成为2024年大选的一部分，其中包括共和党全国委员会(Republican National Committee)今年4月播出的一则广告，旨在展示如果乔·拜登(Joe Biden)总统连任，美国的未来。它使用了虚假但真实的照片，展示了用木板封起来的店面，街道上的装甲军事巡逻，以及一波又一波的移民造成的恐慌。
Klobuchar表示，根据参议院法案提出的规定，这样的广告可能会被禁止。在特朗普的共和党主要对手、佛罗里达州州长罗恩·德桑蒂斯的攻击广告中，唐纳德·特朗普拥抱传染病专家安东尼·福奇博士的假照片也会如此。
另一个例子是，克洛布查引用了今年早些时候的一段深度伪造视频，该视频旨在向马萨诸塞州民主党参议员伊丽莎白·沃伦(Elizabeth Warren)展示。他在一次电视采访中建议限制共和党人的投票。
“如果你在总统竞选中，让你喜欢的候选人或你不喜欢的候选人说一些不真实的话，那将是非常具有误导性的，”曾在2020年竞选总统的克洛布查尔说。“你怎么知道有什么不同呢?”
Klobuchar是参议院规则和行政委员会主席，他主持了9月27日关于人工智能和选举未来的听证会，证人包括明尼苏达州国务卿、民权倡导者和一些怀疑论者。共和党人和他们要求作证的一些证人一直对被视为侵犯言论自由保护的规定持谨慎态度。
智库TechFreedom的律师阿里·科恩(Ari Cohn)告诉参议员，到目前为止，在2024年大选之前出现的深度造假已经吸引了“广泛的审查，甚至嘲笑”，并没有在误导选民或影响他们的行为方面发挥太大作用。他质疑是否需要新的规则。
“即使是虚假言论也受到第一修正案的保护，”科恩说。“事实上，政治上的真假判断应该由选民来决定。”
一些民主党人也不愿支持彻底禁止政治造假。“我不知道这会不会成功，特别是当它涉及到第一修正案的权利和潜在的诉讼时，”克拉克说，他在国会代表布鲁克林的部分地区。
但她的法案如果获得通过，将授权联邦选举委员会(Federal Election Commission)开始对人工智能生成的选举广告实施免责要求，类似于谷歌自己已经在做的事情。
今年8月，联邦选举委员会采取了程序性步骤，可能会对人工智能在政治广告中产生的深度造假行为进行监管，向公众开放了一份请愿书，要求它制定针对误导性图像、视频和音频剪辑的规则。
请愿书的公众评议期由倡导组织“公众公民”(public Citizen)提出，将于10月16日结束。
