【编者按】在人工智能技术狂飙突进的今天，深度伪造与虚假信息正以前所未有的速度侵蚀着现实与虚拟的边界。英国知名主持人凯特·加拉韦的遭遇，撕开了AI滥用触目惊心的一角——丈夫病逝不久，她竟被AI凭空捏造出“新恋情”，甚至其未成年儿子也沦为虚假报道的攻击对象。当伪造内容逼真到连亲友都难辨真伪，当恶意信息如病毒般在社交平台蔓延，我们不得不警醒：技术的双刃剑已悬于每个人头顶。这场风波背后，既是个人尊严与情感的残酷践踏，更是对数字时代信息信任体系的严峻拷问。平台监管如何筑起防火墙？公众又该如何在信息洪流中保持清醒？加拉韦的泣诉，敲响了AI伦理的紧急警钟。
凯特·加拉韦近日公开谴责一起恶劣的网络恶作剧——有人利用人工智能生成她与“新男友”的伪造合影。
这位刚参与《名人背叛者》节目的电视主持人透露，近一年前网络上开始流传她与虚构伴侣的图片。
这些人工合成的照片出现时，正值她丈夫德里克·德雷珀因长期新冠并发症于2024年不幸离世后不久。
58岁的加拉韦情绪激动地回忆事态如何升级，连她和德雷珀16岁的儿子比利也成为虚假新闻网站的攻击目标。
此番揭露之际，社交平台X刚宣布对其内置AI聊天机器人Grok实施新限制——在公众强烈抗议后，禁止该工具生成色情化图像。
加拉韦在ITV《早安英国》节目中坦言：“那对我和孩子们都是非常煎熬的时期。这些内容主要出现在Facebook上。”
她继续道：“我本人不用Facebook。平台上存在大量假冒的凯特·加拉韦账号，这些账号不断发布我和他人的伪造合影，简直像在庆贺什么似的。”
“直到有路人当面祝贺‘真高兴你找到新恋情’，我才意识到问题的严重性。”
“当时我没有表现出不快，反而觉得他们这份关心很暖心——这些人自己也经历着丧亲之痛，我们甚至进行了温馨的交谈。”
加拉韦透露，连她的同事、《早安英国》主持人兰维尔·辛格都曾看到这些图片并信以为真。
“这些伪造图像甚至骗过了兰维尔这样的朋友！”她痛心道。
搭档主持人理查德·马德利追问：“你当时没想过向她说明真相吗？”
辛格承认：“我以为凯特会主动告诉我，这确实让我很困惑！”
加拉韦解释，2025年底多家虚假网站开始编造报道，声称她的儿子比利因“自私”和“思念父亲”而破坏她的虚构恋情。
“转折点出现在去年年底，那些伪装成新闻网站的AI机器人站点，开始大肆渲染我儿子因自私和思念亡父破坏恋情的虚构故事。”
“这太可怕了——他的老师可能会读到这些，还把它们当作新闻来源。”
德雷珀于2024年1月因新冠肺炎长期后遗症逝世，终年56岁。
这位从容的主持人周三在Instagram发帖指出，这些图像对她的孩子们造成“严重伤害”，并呼吁公众务必使用可信的新闻网站。
她是在威尔士农民兼视频博主加雷斯·韦恩·琼斯现身节目讨论AI深度伪造色情勒索经历后，才决定公开自身遭遇的。
琼斯坦言：“说实话，这些伪造内容非常恐怖且逼真。”
“当有人把你置于这种境地，它会严重冲击你的心理、情感、人际关系和婚姻。这让我极度愤怒，更决心公开真相帮助他人——这才是关键。”
“还有更多受害者正在沉默中承受痛苦，甚至可能有人被迫向勒索者屈服。”
“很高兴我们能传播警示，今早关于X平台、Grok和埃隆·马斯克的消息令人鼓舞，一切正在朝正确方向迈进。”
英国监管机构Ofcom本周初已对AI聊天机器人Grok展开调查，并于周四表态支持平台新规——该限制将覆盖所有用户（包括付费订阅者），而图像编辑与生成功能仅限高级用户使用。
