在线人工智能聊天机器人让用户只需点击几下，就能生成真人的露骨裸照，这让专家们对即将到来的“噩梦场景”发出了警告。
《连线》杂志最近的一项调查发现，即时通讯应用Telegram上出现了一个令人不安的趋势，数十个人工智能聊天机器人允许用户创建几乎任何人的深度假裸照和视频。据报道，这些机器人每月约有400万人使用，据称它们可以从提供的照片中删除衣服，甚至生成描绘个人进行性活动的露骨内容。
深度造假专家亨利·艾德尔（Henry Ajder）在四年前首次发现了Telegram聊天机器人的地下世界，他对积极创建和分享这类内容的用户急剧增加表示严重关切。“这些工具确实破坏了生活，主要对年轻女孩和女性造成了非常噩梦般的场景，但在世界上最大的应用程序之一的表面网络上，这些工具仍然很容易获得和找到，这真的令人担忧，”艾德尔告诉《连线》杂志。
泰勒·斯威夫特（Taylor Swift）和詹娜·奥尔特加（Jenna Ortega）等名人已经成为色情深度造假的受害者，最近也有报道称，十几岁的女孩成为了攻击目标，一些深度造假的裸照被用于“性勒索”案件。一项调查甚至显示，40%的美国学生报告说，他们的学校里流传着深度假货。
随着人工智能技术的进步，深度造假网站的激增引发了立法者的密切关注。今年8月，旧金山检察官办公室起诉了十多家“脱衣”网站。当《连线》杂志就Telegram上明确的聊天机器人内容联系该公司时，该公司没有回应，但这些机器人和相关频道突然消失了，尽管创作者发誓第二天要“制作另一个机器人”。
艾玛·皮克林（Emma Pickering）是英国家暴组织Refuge的技术促进虐待和经济赋权负责人，她强调了这些虚假图像可能造成的心理伤害，导致创伤、羞辱、恐惧、尴尬和羞耻。她指出，虽然这种形式的虐待在亲密伴侣关系中变得越来越普遍，但肇事者很少被追究责任。
