【编者按】在信息爆炸的时代，真实与虚构的界限正被技术悄然抹去。近日，白宫官方账号分享了一张经AI处理的民权律师被捕落泪照片，引发舆论哗然。这并非简单的政治调侃，而是权力机构利用人工智能操纵公众认知的危险信号。当权威渠道开始玩起“真假游戏”，当深度伪造内容披着新闻外衣泛滥社交平台，我们该相信谁？本文揭露AI合成内容如何侵蚀社会信任基石，专家警告：若连政府都放弃真相守护者的角色，我们将坠入无从辨别现实的深渊。以下报道值得每个信息时代的公民深思——
洛杉矶（美联社）——特朗普政府从未回避在网络上分享AI生成的图像，他们热衷于传播卡通风格的视觉内容和网络梗图，并通过白宫官方渠道进行推广。
但一张经过修改、逼真呈现民权律师内基玛·利维·阿姆斯特朗被捕后泪流满面的照片，正引发新的警报：这届政府正在模糊真实与虚假的界限。
国土安全部长克里斯蒂·诺姆的账号最先发布了利维·阿姆斯特朗被捕的原版照片，随后白宫官方账号发布了一张修改版，画面中的她正在哭泣。这张加工过的图片是AI编辑图像洪流中的一片浪花——自明尼阿波利斯市发生美国边境巡逻队枪杀雷内·古德与亚历克斯·普雷蒂事件后，此类内容已在各政治阵营间广泛传播。
然而，白宫对人工智能的使用令虚假信息专家深感不安。他们担心AI生成或编辑图像的扩散会侵蚀公众对真相的认知，并播下怀疑的种子。
面对针对利维·阿姆斯特朗修改图像的批评，白宫官员反而强化了立场。副通讯主任凯兰·多尔在X平台上写道：“梗图不会停。”白宫副新闻秘书阿比盖尔·杰克逊也分享帖子嘲讽这些批评。
康奈尔大学信息科学教授戴维·兰德指出，将修改后的图像称为梗图“显然试图将其包装成玩笑或幽默帖子，就像他们之前发布的卡通图那样。这大概是为了让他们免于因发布篡改过的媒体内容而受批评。”他表示，分享这张修改后的被捕图像的目的，比政府以往分享的卡通风格图像“模糊得多”。
网络梗图始终承载着多层信息，对懂的人来说有趣或有益，但外人难以解读。共和党传播顾问、影响力营销公司Total Virality创始人扎克·亨利表示，AI增强或编辑的图像只是白宫用来吸引特朗普阵营中长时间在线群体的最新工具。
“深度网络用户看到它会立刻认出这是梗图，”他说，“而你的祖父母可能看到却不理解其中的梗，但由于它看起来真实，会促使他们向子女或孙辈询问。”亨利对白宫社交媒体团队的工作总体表示赞赏，并指出如果内容能引发激烈反应就更好了，这有助于病毒式传播。
西北大学教授、新闻媒体素养研究员迈克尔·A·斯派克斯指出，篡改图像的创建和传播，尤其是当它们由可信来源分享时，“会固化人们对正在发生之事的某种想象，而非展示实际发生的情况”。
“政府本应是你能信任信息、能断言其准确性的地方，因为他们有责任这样做，”他说，“通过分享这类内容，制造这类内容……它正在侵蚀信任——尽管我一直对‘信任’这个词持怀疑态度——但我们本应对联邦政府提供准确、核实过的信息抱有信任。这是真正的损失，让我非常担忧。”
斯派克斯表示，他已经看到围绕新闻机构和高等教育不信任的“制度性危机”，并认为官方渠道的此类行为加剧了这些问题。
加州大学洛杉矶分校教授、《乌托邦》播客主持人拉梅什·斯里尼瓦桑指出，许多人现在都在质疑该转向何处寻找“可信信息”。“AI系统只会加剧、放大和加速这些缺乏信任、甚至无法理解何谓现实、真相或证据的问题。”他说。
斯里尼瓦桑认为，白宫及其他官员分享AI生成内容，不仅鼓励普通人继续发布类似内容，也默许其他拥有公信力和权力的人（如政策制定者）分享未标注的合成内容。他补充说，鉴于社交媒体平台倾向于“通过算法优待”极端和阴谋论内容——而AI生成工具能轻松制造这类内容——“我们正面临一系列巨大挑战”。
与移民海关执法局行动、抗议活动和民众互动相关的AI生成视频已在社交媒体上激增。在雷内·古德在车内被ICE官员枪击后，多段AI生成的视频开始流传，内容多为女性驾车逃离命令其停车的ICE官员。还有许多伪造视频流传，显示移民突击搜查以及民众与ICE官员对峙，常常对他们大喊大叫或将食物扔到他们脸上。
专注于媒体素养和辟谣AI病毒视频的内容创作者杰里米·卡拉斯科表示，这些视频大多可能来自“互动农场”账号，即试图通过使用ICE等热门关键词和搜索词生成内容来获取点击量。但他也指出，视频观看者中不乏反对ICE和国土安全部的人，他们可能将这些视频视为“同人创作”，或沉浸于“一厢情愿的想法”，希望看到对这些机构及其官员的真实反抗。
尽管如此，卡拉斯科也认为大多数观众无法分辨所看内容真伪，并质疑他们“在真正紧要关头、当风险高得多时，是否知道什么是真实的”。
即使存在明显的AI生成痕迹，比如街牌上的乱码或其他明显错误，也只有在“最佳情况下”，观众才会有足够的辨识力或注意力来察觉AI的使用。
当然，这个问题不仅限于围绕移民执法和抗议的新闻。本月早些时候，关于被推翻的委内瑞拉领导人尼古拉斯·马杜罗被捕后的伪造和歪曲图像也在网上爆炸式传播。包括卡拉斯科在内的专家认为，AI生成政治内容的传播只会变得更加普遍。
卡拉斯科相信，广泛实施水印系统——将媒体来源信息嵌入元数据层——可能是迈向解决方案的一步。内容来源与真实性联盟已开发了此类系统，但卡拉斯科认为至少还需一年才能广泛采用。
“这将成为永久性问题，”他说，“我认为人们尚未意识到情况有多糟糕。”
__
凤凰城的乔纳森·J·库珀和旧金山的芭芭拉·奥图泰为本报道作出贡献。
本文由极观网原创发布，未经许可，不得转载！
本文链接：http://huioj.com/pp/7189.html
