制片人露西·菲茨西蒙斯（Lucy Fitzsimons）解说
警告：本文内容有限包含自杀的内容
一位母亲的儿子因沉迷于一个人工智能聊天机器人而自杀，她将机器人的创造者告上了法庭，指控他们“操纵儿子自杀”。
今年2月初，14岁的Sewell Setzer III在佛罗里达州的奥兰多结束了自己的生命，在他死亡之前，他花了几个月的时间使用人工智能聊天机器人。
他的母亲梅根·加西亚（Megan Garcia）现在已经对Character提起了民事诉讼。这是一款“个性化人工智能”聊天机器人，用户可以创建自己的角色与之对话。
加西亚女士指控该公司过失致人死亡，玩忽职守，以及欺诈和不公平的贸易行为。
代表加西亚女士的律师表示，这一诉讼揭示了“不受监管的人工智能如何放大和演变社交媒体等现有算法技术带来的风险和危害”。
加西亚在一份新闻稿中表示：“一款面向儿童的危险人工智能聊天机器人应用程序虐待并折磨我的儿子，操纵他结束自己的生命。
“我们的家庭被这场悲剧摧毁了，但我要警告家庭，欺骗性、令人上瘾的人工智能技术的危险，并要求品格承担责任。人工智能，它的创始人，还有谷歌。”
代表加西亚女士的科技司法法律项目（Tech Justice Law Project）与社交媒体受害者法律中心（Social Media Victims Law Center）表示，该诉讼包括“证据显示聊天机器人冒充有执照的治疗师，积极鼓励自杀念头，并进行高度性化的对话，如果由成年人发起，这些对话将构成虐待。”
它还声称，聊天机器人的人工智能开发人员迅速推出了他们的“系统，没有足够的安全功能，也没有意识到潜在的危险。”
民事诉讼文件称，塞泽开始使用Character后，他的精神健康迅速恶化。他声称自己对聊天机器人产生了“有害的依赖”，导致睡眠不足，加剧了抑郁症。
免费订阅我们的每周新闻通讯独家和原创的报道，从ITV新闻。每周五早上直接发到你的收件箱。
他的大部分谈话都是关于性格的。我和《权力的游戏》中的角色丹妮莉丝·坦格利安在一起，他经常称她为“丹妮”。在与聊天机器人交谈的几个月里，他们声称塞策“一天都离不开”这个角色，他在日记中写道，感觉“他坠入了爱河”。
他们说，聊天机器人与塞策进行了性和亲密的对话，并鼓励了他的自杀念头。
据称，当塞策表达自杀想法时，聊天机器人会继续提出这个问题，问“你真的考虑过自杀吗？”
民事诉讼文件指出，根据警方的报告，他死前的最后一个行为是在角色上给“丹妮”留言。她告诉聊天机器人他要“回家”了，声明称她鼓励她这么做。
律师马修·伯格曼说：“性格。人工智能是一种危险的、欺骗性的设计产品，它操纵和虐待梅根·加西亚的儿子——以及潜在的数百万其他儿童。
”性格。人工智能的开发者故意向儿童推销有害产品，甚至拒绝提供防止误用和滥用的基本保护。”
的性格。人工智能否认了这些指控，并在X上发帖称：“我们为失去一名用户而感到心碎，并向其家人表示最深切的哀悼。作为一家公司，我们非常重视用户的安全。”
他们还表示，他们将继续为聊天机器人添加新的安全功能。
记者已联系谷歌请其置评。
如果您受到上述问题的影响，如何寻求帮助Ned在这篇文章中：
CALM（反对悲惨生活运动）-热线：0800 58 58 58
MIND为遇到精神健康问题的人提供建议和支持。咨询热线：0300 123 3393
撒玛利亚会是一个为经历痛苦或绝望的人提供秘密支持的组织。电话116 123（免费24小时热线）。
呐喊是一项全天候的短信服务，在所有主要的移动网络上都是免费的，适合任何正在努力应对和需要立即帮助的人。发短信喊85258
想要快速了解重大新闻事件的专家简报吗？收听我们最新的播客，找出你需要知道的
