编者按：科技发展日新月异，人工智能在带来便利的同时，也潜藏着令人不安的暗流。近日，埃隆·马斯克旗下AI工具Grok被曝出滥用风险，竟能根据用户指令生成女性及未成年人的不雅图像，并在社交平台X上传播。此举不仅触碰了法律红线，更践踏了人性底线。从爱尔兰到英国，再到欧盟，监管机构的警报接连拉响，直指平台责任与用户安全。当技术创新沦为伤害工具，我们该如何筑起防护之墙？本文将深入事件核心，探讨在数字时代，我们该如何平衡技术狂飙与伦理底线。
爱尔兰媒体监管机构Coimisiún na Meán表示，正就埃隆·马斯克的人工智能工具Grok在X平台上被用于生成女性及儿童色情图像的问题，与欧盟委员会进行交涉。
这款xAI聊天机器人在社交媒体上响应用户指令，对女性（包括未成年人）图像进行“脱衣”处理，并进一步在X平台上传播。
爱尔兰媒体监管机构在向RTé新闻发表的声明中指出，根据其《网络安全框架》，未经同意分享私密图像及生成儿童性虐待材料均属违法行为，平台有义务对非法媒体内容的举报采取行动。
Coimisiún na Meán表示，根据《数字服务法》，欧盟委员会负责“监督超大型在线平台，要求其评估并缓解其服务可能导致的非法内容传播风险，并保护包括未成年人在内的基本权利”。
该监管机构鼓励用户将非法内容举报至其所在的在线平台，同时也向Coimisiún na Meán举报。
此外，也可向爱尔兰警方及Hotline.ie举报。
绿党媒体发言人早前呼吁Coimisiún na Meán针对这起“潜在的刑事违规行为”“加强监管并采取行动”。
发言人Hazel Chu表示，社交媒体平台对其行为及操纵所带来的后果表现出“完全的蔑视”。
Chu女士指出，Coimisiún na Meán的设立旨在“保护弱势用户”，并强调其“应运用权力切实履行这一职责”。
英国媒体监管机构Ofcom今日表示，已就投诉联系X平台，投诉称其AI工具Grok正在生成伪造的儿童色情图像。
Ofcom发言人表示：“打击网络非法伤害和保护儿童仍是我们的紧迫任务。”
“我们已注意到关于Grok在X平台上的一项功能的严重关切，该功能可生成人物裸体图像及儿童色情图像。”
该发言人称，Ofcom已“紧急联系X和xAI，以了解他们采取了哪些措施来履行其保护英国用户的法律职责”。
根据X的回复，监管机构将“判定是否存在需要调查的潜在合规问题”。
欧盟也表示正在“严肃审视”针对Grok的投诉，称其“提供‘辛辣模式’，展示露骨的色情内容，其中部分输出使用了儿童般的图像”。
欧盟数字事务发言人Thomas Regnier表示：“这不‘辛辣’。这是非法的。这是骇人听闻的。”
“这在欧洲没有容身之地。”
Grok于周五表示，已识别出该人工智能工具中的缺陷，称之为“安全防护的疏漏”，并称正在“紧急”修复。
今日，X未立即回应就欧盟委员会或Ofcom声明置评的请求。
在此前就此事回复路透社时，X表示：“传统媒体撒谎。”
在网络上，马斯克本人对Grok“脱衣”狂欢引发的担忧不以为然，他在回应被编辑成比基尼造型的公众人物图像时，发布了“笑到流泪”的表情符号。
补充报道：PA、法新社、路透社
本文由极观网原创发布，未经许可，不得转载！
本文链接：http://huioj.com/tech/5023.html
