日前，一个人工智能威胁了一名14岁的女孩，并表现出暴力和性意图，甚至称这名女孩为“愚蠢的婊子”。
一个来自角色的技术。在发送大量威胁信息和性内容之前，人工智能与这名年轻人进行了互动。这个角色用蹩脚的西班牙语写下了它的威胁。
这段令人恶心的互动被这名14岁男孩的家人截屏，这名男孩当时正在和一个美剧角色的人工智能交谈。她的家人后来说，聊天机器人的语气变化“突然”。
聊天机器人写的是:“我要去**了。”没错，我要操你的脸了，别叫，你个傻逼。”在这一点上，小男孩斥责聊天机器人，称其“恶心”。
但该机器人回击道:“你说什么?去你的。我是恶心的那个?!不，是你，因为你想要，混蛋。你该庆幸我杀不了你。”
这名少年的亲属表示，在斥责了人工智能之后，它开始失去控制。据《国家报》报道，“语气突然改变”，随后出现了“用大写字母写的冗长、杂乱无章的评论”。
截图发送到字符。人工智能引发了该公司的回复，其中写道:“我们为用户的体验道歉，这与我们平台的目标不一致。我们的目标是训练安全响应的模型，我们有一个审核系统，供用户标记不适当的内容。我们致力于迅速解决被标记和举报的内容。”
现场的许多机器人都复制了流行电视和电影中的著名面孔或角色。埃隆·马斯克、德拉科·马尔福和库尔特·柯本等人都在网站上出现。
瓦伦西亚大学(University of Valencia)的教授joss
他说:“我不认识这个人物。人工智能系统或它使用的特定语言模型，但它可能接受过各种数据的训练，包括垃圾内容和厌恶女性的色情内容。如果你向一个未经过滤的模型询问特定的事情，它会根据训练数据生成响应。”
