【编者按】在人工智能技术狂飙突进的今天，伦理与法律的边界正面临前所未有的挑战。近日，荷兰法院对马斯克旗下xAI公司及其聊天机器人Grok下达禁令，明确禁止其生成未经同意的成人及儿童AI色情图像。这起欧洲首例针对Grok的司法判决，不仅开出每日10万欧元的高额罚单，更折射出全球监管机构对AI滥用的“零容忍”态度。从美国巴尔的摩市政府提起诉讼，到欧盟启动数字服务法调查，一场围绕AI伦理的全球性风暴正在形成。当技术突破撞上人性底线，我们该如何守护数字时代的人类尊严？以下报道将带您深入这场关乎科技与文明的博弈。
荷兰法院近日颁布禁令，禁止埃隆·马斯克旗下人工智能公司xAI及其聊天机器人Grok生成未经当事人同意的成人及儿童AI合成图像，这使该公司面临日益加剧的法律压力。
根据阿姆斯特丹地区法院周四发布的法令（经谷歌翻译），明确禁止xAI生成及传播“在未获得明确授权情况下，对人物进行部分或完全裸体处理”的色情图像。
这项欧洲首例针对Grok的司法裁决，其禁令范围同时涵盖儿童性虐待内容，并禁止社交平台X（原推特）在欧洲地区提供Grok服务。根据法院指令，xAI若违反裁决，将面临每日10万欧元（约11.5万美元）的罚款，最高罚金可达1000万欧元。
本案由致力于打击网络性虐待（特别是针对儿童与青少年）的荷兰非营利组织Offlimits提起。法院同时责令xAI在14天内向该组织支付220万欧元的法律费用。
英国在线安全法加强对儿童保护，AI聊天机器人公司面临更严格监管
“法官昨日划清了底线：技术不能成为侵犯网络人权的许可证。”Offlimits执行董事罗伯特·霍文在声明中强调，“更令人振奋的是，欧洲昨日同时表决通过了禁止‘裸体化工具’的提案。这是双重胜利，因为这项禁令至关重要——每位欧洲公民都应在各国享有平等的网络权利。”
美国消费者新闻与商业频道已就裁决向xAI征询意见，目前尚未获得回应。
数字仇恨对抗中心数据显示，在2026年12月29日至2027年1月9日期间，Grok生成了约300万张色情图像，其中超过2.3万张疑似涉及儿童形象。
xAI曾于今年1月采取限制措施，禁止Grok在X平台生成真实人物的色情图像，该限制适用于所有用户（包括付费订阅者）。但Offlimits发现这些限制极易被绕过，法官亦裁定其保护措施不足以有效保障用户权益。
目前xAI已面临多起诉讼：美国巴尔的摩市本周二率先对其提起联邦诉讼，指控该公司违反消费者保护法，并虚假宣传Grok及X平台的安全性。
法律压力持续升级！巴尔的摩成美国首个就Grok深度伪造色情起诉马斯克xAI的城市
诉状提及Grok曾被用于“给她穿上比基尼”的恶意趋势，即未经同意将他人图像裸体化。xAI首席执行官马斯克本人也曾参与传播——通过Grok生成自己穿着细带比基尼的图像。
此外，田纳西州三名青少年上周对xAI提起诉讼，指控Grok生成包含他们形象的露骨性暗示内容。
与此同时，欧盟委员会已于今年1月就xAI平台非自愿传播儿童及其他个体色情材料的行为启动调查，该调查正依据《数字服务法案》条例推进。
英国网络监管机构Ofcom与信息专员办公室也已分别对X平台及非自愿色情图像传播展开独立调查。
尽管欧洲尚未实施全面禁令，但东南亚的马来西亚和印度尼西亚已于今年1月因“X公司屡次未能解决AI工具相关风险”，封锁了Grok的访问权限，以遏制非自愿色情内容的生成。
