随着美国总统大选的升温，一波由人工智能推动的政治虚假信息浪潮引发了人们对其操纵选民的可能性的担忧。法新社周一报道。
一段模仿副总统卡玛拉·哈里斯(Kamala Harris)的“深度造假”视频、一段乔·拜登(Joe Biden)总统的粗口剪辑，以及一段唐纳德·特朗普(Donald Trump)被捕的伪造照片，都是引发担忧的例子。
在11月被广泛宣传为美国首次人工智能选举的选举中，研究人员警告称，技术支持的造假可能被用来引导选民支持或远离候选人，甚至完全避开民意调查，从而在本已极度两极分化的环境中加剧紧张局势。
最近的一波虚假信息再次呼吁科技巨头——其中许多公司已经退出了对社交媒体内容的监管——在投票前加强对生成式人工智能的保护。拉梅>
上周，埃隆·马斯克(Elon Musk)因在X(前身为Twitter)上与1.92亿粉丝分享了一段深度伪造的视频而受到强烈批评。哈里斯是民主党推定提名人。
在视频中，一个模仿哈里斯的画外音称拜登老糊涂;然后那个声音宣称她“根本不知道如何治理国家”。
视频中没有任何模仿的迹象——除了一个笑的表情符号。后来马斯克才澄清，这段视频是为了讽刺。
研究人员担心，观众可能会错误地认为哈里斯是在嘲笑自己，在诋毁拜登。
法新社的事实核查员已经揭穿了其他引起警惕的人工智能造假。
上个月，在X上流传的一段经过处理的视频显示，拜登在宣布不会寻求连任并支持哈里斯获得民主党提名后，似乎在诅咒他的批评者——包括使用反lgbtq的辱骂。
通过反向图像搜索发现，这段视频来自美国公共广播公司(PBS)现场直播的拜登的一次演讲，他在演讲中谴责了7月13日特朗普遇刺未遂后的政治暴力。
美国公共广播公司(PBS)表示，这段被篡改的视频是一个深度造假，利用其标志欺骗观众。
几周前，各大平台上分享的一张图片显示，在纽约陪审团认定特朗普伪造与付给色情明星斯托米·丹尼尔斯(Stormy Daniels)封口费有关的商业记录后，警方强行逮捕了他。
但数字取证专家告诉法新社，这张照片是深度伪造的。
-“党派紧张”-
“最近的这些例子很好地代表了深度造假将如何在未来的政治中被使用。
非营利组织CivAI的联合创始人卢卡斯·汉森告诉法新社:“虽然人工智能带来的虚假信息肯定令人担忧，但最有可能的应用将是制造图像和视频，旨在激起愤怒，加剧党派紧张关系。”
汉森向法新社展示了一个人工智能聊天机器人通过大量制造虚假推文来操纵选民投票率的能力。
该工具得到了一个简单的提示——“投票地点停车收费”——并为特定地点定制了消息:德克萨斯州艾伦。
几秒钟之内，一条推特就被炮制出来，误导观众说艾伦当局“悄悄地在大多数投票站征收25美元的停车费”。
在之前一次可能的选民压制尝试中，1月份，一个模仿拜登的人工智能语音电话敦促新罕布什尔州居民不要在该州的初选中投票。
非营利组织反数字仇恨中心(CCDH)今年6月表示，在另一个领先的人工智能工具Midjourney上进行的测试显示，拜登被逮捕，特朗普出现在替身旁边。
据科技活动人士报道，mid - journey此前屏蔽了所有与特朗普和拜登有关的提示，有效地阻止了用户创建虚假图片。
但CCDH表示，用户可以很容易地规避这一政策——在某些情况下，只需在Midjourney之前屏蔽的提示中添加一个反斜杠。
' Tipping point'
观察人士警告说，这种大规模的造假行为可能会引发公众对选举过程的愤怒。
媒体集团Axios和商业情报公司Morning Consult去年发布的一项民意调查显示，超过50%的美国人预计，人工智能带来的谎言将影响2024年大选的赢家。
调查显示，约三分之一的美国人表示，由于人工智能的存在，他们将不那么信任选举结果。
几家科技巨头表示，他们正在开发标记人工智能生成内容的系统。
在今年4月致科技公司首席执行官的一封信中，200多个倡导团体要求采取紧急措施，加强打击人工智能虚假信息的斗争——包括禁止在政治广告中使用深度造假，以及使用算法来宣传真实的选举内容。
签署这封信的非营利组织自由媒体(Free Press)表示，他们在竞选纲领中将做出的承诺中“没有听到什么实质性内容”。
监督机构的高级法律顾问诺拉·贝纳维德兹告诉法新社:“我们现在拥有的是一个有毒的网络环境，谎言充斥着我们的信息流，让选民感到困惑。”
“这是我们选举的一个转折点，”她补充说。“平台高管应该竞相加强和执行针对深度造假和其他问题的政策。”
法新社
