【编者按】在人工智能技术日新月异的今天，全球各国对AI的监管正面临前所未有的挑战。英国政府近日宣布，将填补网络安全管理法案中的漏洞，将AI聊天机器人纳入监管范围，要求其打击非法内容，否则将面临罚款甚至封禁。这一举措不仅是对科技巨头的一次警示，更是对儿童网络安全的强力保障。从马斯克的X平台到OpenAI的ChatGPT，无一例外都将受到更严格的审查。在全球范围内，澳大利亚、西班牙等国已率先行动，限制未成年人使用社交媒体。英国此次的强硬态度，无疑为全球AI监管树立了新标杆。如何在技术创新与安全监管之间找到平衡，已成为各国政府亟待解决的课题。
英国政府正在填补新网络安全管理法案中的一个“漏洞”，这将使AI聊天机器人必须遵守其打击非法内容的要求，否则将面临罚款甚至被封禁的风险。
在英国政府强烈批评埃隆·马斯克的X平台因其聊天机器人Grok生成色情内容后，首相基尔·斯塔默宣布了新措施，这意味着OpenAI的ChatGPT、谷歌的Gemini和微软Copilot等聊天机器人将被纳入政府的《网络安全法案》监管范围。
公告称，这些平台必须遵守“非法内容责任”，否则“将承担违法后果”。
此前，欧盟委员会在一月份调查了马斯克的X平台传播儿童及其他个人色情图像的行为。斯塔默曾带头呼吁马斯克制止此类内容。
更早之前，英国媒体监管机构Ofcom也开始调查X平台涉嫌传播儿童及其他个人色情图像的报告。
斯塔默在宣布最新措施时表示：“我们对Grok采取的行动传递了一个明确信息：没有任何平台可以逍遥法外。我们正在填补危及儿童的漏洞，并为进一步行动奠定基础。”
斯塔默周一就新权限发表讲话，这些权限包括为社交媒体平台设定最低年龄限制、限制无限滚动等有害功能，以及限制儿童使用AI聊天机器人和访问VPN。
其中一项措施将强制社交媒体公司在儿童死亡后保留数据，除非网络活动明显与死亡无关。
斯塔默说：“我们正在采取行动保护儿童的健康成长，并帮助父母在社交媒体的雷区中导航。”
律师事务所Simmons & Simmons的TMT部门负责人亚历克斯·布朗表示，这一公告显示了政府如何采取不同方法来监管快速发展的技术。
布朗在给CNBC的一份声明中说：“历史上，我们的立法者一直不愿监管技术本身，而是倾向于监管其应用场景，这是有充分理由的。”
他表示，专注于特定技术的法规可能很快过时，并可能遗漏其使用的某些方面。生成式AI正在暴露《网络安全法案》的局限性，该法案侧重于“监管服务而非技术”。
他补充说，斯塔默的最新公告表明英国政府希望解决“技术本身的设计和行为所带来的危险，而不仅仅是用户生成内容或平台功能带来的风险”。
近几个月来，围绕儿童和青少年使用社交媒体的审查日益严格，立法者提到了对心理健康和健康的危害。去年十二月，澳大利亚成为首个实施法律禁止16岁以下青少年使用社交媒体的国家。
澳大利亚的禁令强制Alphabet的YouTube、meta的Instagram和字节跳动的TikTok等应用采用年龄验证方法，例如上传身份证或银行详细信息，以防止16岁以下用户注册账户。
本月初，西班牙成为首个实施禁令的欧洲国家，法国、希腊、意大利、丹麦和芬兰也在考虑类似提案。
英国政府在一月份就禁止16岁以下青少年使用社交媒体展开了咨询。
此外，该国未经选举的上议院上个月投票决定修订《儿童健康与学校法案》，将禁止16岁以下青少年使用社交媒体纳入其中。
下一阶段，该法案将由议会下议院审议。两院必须就任何修改达成一致，然后才能通过成为法律。
