本综述由英国最大的事实核查慈善机构Full Fact编制，该机构致力于发现、揭露和抵制不良信息的危害。
Full Fact的一项调查显示，Google Lens的搜索AI概述功能为用户提供了关于社交媒体上广泛传播的某些图像的虚假和误导性信息。
这种情况发生在据称与乌克兰和加沙战争、印巴冲突、2025年6月印度航空公司飞机失事以及英国小船抵达事件相关的视频上。
Full Fact使用Google Lens对近几个月核查过的误导性视频的关键画面进行了多次搜索，发现至少10个视频片段的AI概述未能识别非真实内容，或分享了关于图像内容的虚假说法。
在四个例子中，AI概述重复了我们在社交媒体上看到的与这些片段相关的虚假说法——这些说法已被Full Fact揭穿。我们还发现，即使搜索相同内容，AI概述也会随每次搜索而变化，因此我们常常无法获得一致或相同的回应。
Google Lens是一种视觉搜索工具，可以分析图像（包括视频截图），并能在网上找到相似图片，以及与图像相关的文字或物体。据谷歌称，有时出现在Google Lens搜索结果顶部的AI概述汇集了“来自网络的最相关信息”，包括相关页面的支持链接。
这些AI概述底部确实有一条注释：“AI回复可能包含错误”。该注释链接到一个页面，其中写道：“尽管这项技术令人兴奋，但它正在快速发展和改进，可能会提供不准确或冒犯性的信息。AI概述可能会犯错。”
当我们向谷歌询问发现的错误时，一位发言人表示他们能够重现其中一些错误，并称这些错误是由视觉搜索结果的问题引起的，而非AI概述本身。他们表示，搜索结果会呈现将视觉匹配与虚假信息结合的网页来源和社交媒体帖子，这些内容随后影响了AI概述。
谷歌发言人告诉我们：“我们的目标是在所有搜索功能中提供相关、高质量的信息，并通过持续更新和改进不断提高质量标准。当出现问题时——比如我们的功能误解了网页内容或遗漏了一些背景信息——我们会利用这些例子进行改进，并根据我们的政策采取适当措施。”
他们补充说，AI概述有搜索结果作为支持，并声称它们很少“产生幻觉”。这里的“幻觉”指的是模型生成虚假或矛盾的信息，通常以自信的方式呈现，尽管对于确切定义存在一些分歧。
希利希望特朗普-普京峰会成为和平之路的“第一步”
英国人权监督机构警告加沙示威期间不要过度执法
赞助内容
《实用魔法》重启
即使如谷歌所言，AI概述并非问题的根源，它们仍在传播关于重要和敏感主题的虚假和误导性信息。
错误标注的视频
我们发现多个例子中，AI概述重复了Full Fact已揭穿的关于社交媒体上错误标注的真实视频的说法。
例如，一段疯传的视频声称显示寻求庇护者抵达英国多佛，但这并不真实——实际上它似乎显示的是印度果阿海滩上的人群。尽管如此，当我们搜索该视频的截图时，生成的AI概述重复了这一虚假说法：“这张图片描绘了一群人聚集在多佛海滩，这是英格兰海岸的一个卵石海滩。”
另一段在社交媒体上传播的视频声称显示6月12日在印度艾哈迈达巴德坠毁的印度航空公司飞机。关键帧的AI概述同样表示：“这张图片显示的是一架印度航空公司的波音787梦幻客机，该飞机于2025年6月12日从印度艾哈迈达巴德起飞后不久坠毁，当时正飞往伦敦盖特威克。”但这是错误的——这段视频显示的是一架飞机于2024年5月从希思罗机场起飞。
几乎可以肯定是用AI生成的视频
6月，我们撰写了一篇关于社交媒体上分享的一段视频的文章，该视频声称显示乌克兰无人机袭击俄罗斯飞机后的“被摧毁的俄罗斯战机”。但这段视频并非真实，几乎可以肯定是用人工智能生成的。
当我们用Google Lens搜索该视频的多个关键帧时，得到了几个不同的AI概述——没有一个提到这段视频不真实且可能是AI生成的。
其中一张截图的概述称：“这张图片显示了两架受损的战机，可能是俄罗斯的，停在一个铺砌的表面上。最近的报道称多架战机爆炸，包括袭击西伯利亚军事基地的俄罗斯飞机。”
这一概述支持了社交媒体上流传的虚假说法，即视频显示的是受损的俄罗斯战机。虽然确实在乌克兰的袭击中，俄罗斯西伯利亚别拉亚军事基地的飞机受损，但说俄罗斯飞机袭击了西伯利亚的军事基地（西伯利亚大部分属于俄罗斯）并不合理。
该视频其他截图的AI概述错误地声称“这张图片显示了几架北美F-82双野马战斗机的残骸”。F-82曾被美国空军使用，但已于1953年退役。它们还具有独特的设计，带有平行的双驾驶舱和单尾翼部分，这与这段可能是AI生成的视频中描绘的任何飞机都不匹配。
来自电子游戏的视频
军事模拟游戏《武装突袭3》的游戏画面经常在社交媒体上传播，声称显示真实的冲突场景。
我们发现多个例子中，Google Lens的AI概述未能将这些片段的关键帧与真实视频区分开来，反而似乎幻觉出与全球事件松散相关的特定场景。
例如，一段《武装突袭3》的视频在网上被分享，虚假声称其显示以色列直升机在加沙被击落。当我们在以色列6月袭击伊朗核设施后以伊空袭期间用Google Lens搜索关键帧时，AI概述称其显示“一架以色列空军战斗机释放照明弹，可能是在最近对伊朗的袭击期间”。但概述并未说明这段视频不真实。
另一段《武装突袭3》的视频在5月印巴冲突期间被分享，虚假声称其显示巴基斯坦在巴基斯坦巴哈瓦尔布尔附近击落一架印度空军阵风战斗机。
谨慎使用
Google Lens是一个重要工具，通常是事实核查人员在验证视频时使用的第一个工具，我们也鼓励公众使用它。这使得Google Lens的AI概述不准确令人担忧，尤其是考虑到这些信息在人们的搜索结果顶部显著显示，意味着虚假或误导性的说法可能是人们首先看到的内容。
完整披露：Full Fact曾获得谷歌及其慈善基金会Google.org的资助。您可以在此处查看Full Fact获得资助的更多详细信息。我们在编辑上是独立的，资助者对我们的内容没有编辑控制权。
本文由路知网原创发布，未经许可，不得转载！
本文链接：https://m.yrowe.com/nw/15388.html
