【编者按】在人工智能技术日新月异的今天，其双刃剑效应愈发凸显。近期，英国知名主持人凯特·加拉韦的遭遇令人揪心——丈夫去世不久，她竟在毫不知情的情况下，成为AI伪造图片的受害者，虚假的“新恋情”甚至牵连到未成年的孩子。这并非孤例，从普通农民到公众人物，深度伪造技术正悄然侵蚀着我们的真实与安宁。当技术失去伦理约束，当虚拟与现实的边界变得模糊，我们该如何守护自己的数字身份？社交平台X虽已紧急限制AI生成涉性内容，但这场关乎信任与安全的战役才刚刚打响。以下报道将带您直面AI滥用的暗面，并思考：在算法狂欢的时代，我们究竟需要怎样的技术温度？
主持人凯特·加拉韦透露，她最初意识到网上流传着自己与“新男友”的AI伪造照片，竟是因为路人上前向她道贺。
这位近期出演《叛徒》衍生剧的电视主持人揭露，近一年前——恰逢她的丈夫、前政治说客兼顾问德里克·德雷珀去世不久——她与虚构伴侣的假照片便开始在网络涌现，而情况在事件波及她的孩子后进一步恶化。
此事曝光之际，社交媒体平台X刚刚宣布实施限制措施，响应包括首相府在内的议员呼吁，禁止其内置AI聊天机器人Grok生成色情内容图片。
加拉韦在ITV《早安英国》节目中坦言：“那对我和孩子们来说是一段非常煎熬的时期。这些事主要发生在Facebook上。”
“我本人不用Facebook。网上有很多冒充我的假账号，这些账号几乎像在庆祝似地发布我和他人的伪造内容。”
“直到有人在街上拦住我说‘真高兴你找到了新感情’，我才意识到发生了什么。”
“当时我并没有表现出不快，因为我觉得他们这份关心很暖心——他们自己也正经历着丧亲之痛，我们还因此进行了愉快的交流。”
“转折点出现在去年底。那些伪装成新闻网站的AI机器人站点，开始编造整套故事，说我儿子因为自私和思念父亲，正在破坏我的新恋情。这太可怕了——他的老师可能会读到这些内容，还把它们当作新闻来源。”
德雷珀因新冠肺炎长期后遗症于2024年1月去世，终年56岁。
加拉韦周三在Instagram发文中指出，这些伪造图片对她的孩子造成了“情感伤害”，并呼吁公众上网时务必使用可信的新闻来源。
同场节目的嘉宾——威尔士农民兼视频博主加雷思·温·琼斯，近日也沦为AI深度伪造色情勒索的受害者。
他直言不讳：“说实话，那些伪造内容非常逼真，令人毛骨悚然。”
“如果有人让你陷入这种境地，真的会从心理、情感、人际关系乃至婚姻各方面摧毁你。这让我无比愤怒，也促使我站出来公开经历，帮助更多人——这才是关键。”
“还有更多人经历过这些，有些人可能正在沉默中忍受，甚至可能有人被迫向勒索者屈服。”
“我很高兴我们能公开讨论这个问题。今早关于X平台和Grok机器人限制措施的消息是个好消息，埃隆·马斯克的表态也意味着一切正在向正确方向发展。”
英国监管机构Ofcom本周初已对Grok展开调查，并于周四表态支持新限制措施。新规将覆盖所有用户（包括付费订阅者），而图片编辑和生成功能仅限高级用户使用。
