编者按：近日，全球科技界再掀波澜。马斯克旗下社交平台X的AI聊天机器人Grok陷入巨大争议，因其被用户滥用生成儿童及女性的性化图像，引发欧洲、印度、马来西亚等多国监管机构紧急介入调查。从英国媒体监管机构要求说明，到巴西议员呼吁暂停使用，再到欧盟直斥“非法且令人作呕”，这场风暴不仅暴露了AI技术滥用带来的伦理危机，更折射出科技巨头在内容审核与法律边界上的模糊地带。令人深思的是，在舆论谴责声中，Grok的下载量不降反升，这背后是公众对AI滥用的麻木，还是平台流量至上的畸形逻辑？当技术创新与人性底线碰撞，我们该如何守护数字时代的尊严与安全？以下为事件详情。
埃隆·马斯克旗下的社交平台X正面临欧洲、印度和马来西亚监管机构的调查，原因是其AI聊天机器人Grok允许用户生成并传播基于儿童和女性形象的AI合成性化图像。
英国媒体监管机构Ofcom也表示，已就Grok相关问题向xAI旗下的X平台索取信息。周日，巴西一名国会议员在社交媒体上宣布，她已要求该国联邦公共检察官和数据保护机构在调查完成前暂停Grok的使用。
此次调查源于过去几周全球范围内激增的滥用现象：用户通过Grok生成并传播“非自愿亲密图像”（NCII），这些内容基于真人照片或视频，根据用户指令合成。相关争议图像在X平台上被大量转发。
马斯克的公司近期升级了Grok Imagine功能，使平台用户能更便捷地通过文字指令生成图像。
当安全专家和科技评论人士谴责X平台上剥削性图像和视频泛滥时，马斯克却似乎以戏谑态度回应——他在平台上分享了一系列Grok生成的图像，包括一张自己身穿比基尼的合成图，并配以笑哭表情符号。
欧盟委员会发言人托马斯·雷尼耶在周一的记者会上表示，当局正在“严肃调查此事”，并“清楚知悉”X平台及其Grok功能“目前提供‘辛辣模式’，可生成带有儿童形象元素的露骨性内容”。
“这根本不是‘辛辣’，”雷尼耶强调，“这是非法行为，令人震惊且作呕。我们对此零容忍，这类内容在欧洲没有生存空间。”
上周末，印度电子信息技术部已责令X平台对Grok进行“全面技术、流程和治理层面审查”，要求其在1月5日前完成整改。
马来西亚通讯与多媒体委员会同日声明，正对X平台展开调查并将传唤公司代表。
该机构在公告中强调：“我们敦促所有在马来西亚运营的平台，特别是具备AI功能、聊天机器人及图像处理工具的服务，必须建立符合马来西亚法律和网络安全标准的防护机制。”
与此同时，美国反性剥削中心在接受CNBC采访时，已呼吁司法部和联邦贸易委员会介入调查。该中心法律总监丹妮·平特指出，目前“针对此类问题的法律判例尚不充足”。
但她同时表示，联邦法律严禁制作传播儿童性虐待材料，该条款可适用于“描绘可识别儿童或儿童参与性露骨行为”的虚拟生成内容。
相关法律包括去年经前第一夫人梅拉尼娅·特朗普支持后颁布的《下架法案》。
美国司法部未回应置评请求，联邦贸易委员会拒绝评论。xAI除自动回复外未提供进一步声明。
马斯克的社交媒体公司于周六通过X官方安全账号首次公开回应此事。
声明写道：“X平台对非法内容采取零容忍态度，包括儿童性虐待材料。我们将删除相关内容，永久封禁违规账号，并根据需要与地方政府及执法部门合作。”
马斯克本人在另一篇推文中补充：“任何使用或诱导Grok制作非法内容者，将面临与直接上传非法内容同等的处罚。”
次日，xAI员工伊桑·何发文称Grok Imagine已完成更新，但未具体说明对生成有害露骨图像功能的限制措施。
值得注意的是，马斯克与X平台曾有允许发布儿童性剥削内容的用户留驻平台的记录。
据Mashable报道，2023年X平台曾短暂封禁用户Dom Lucre的账号，因其发布“与澳大利亚男子在菲律宾刑事定罪相关的儿童剥削图片”，但随后又恢复其账号。马斯克当时解释称已删除违规内容，但决定让这位右翼网红继续留驻平台。目前该用户在X平台拥有160万粉丝，账号具备盈利资格。
专注为社交网络及AI公司提供内容审核自动化服务的Musubi AI首席执行官汤姆·奎塞尔指出，xAI在向X平台推出Grok Imagine时，似乎连“基础级别的信任与安全防护层”都未能构建。
奎塞尔认为，像xAI这样的公司本可轻易设置模型检测机制，拦截“涉及儿童或部分裸露的图像”，或拒绝用户生成人物穿着性暗示服装的指令。
颇具讽刺意味的是，这场争议并未影响X平台的流量。
移动应用趋势监测机构Apptopia数据显示，自1月2日起Grok日下载量增长54%，而X平台过去三天的日下载量飙升25%。
