【编者按】在数字浪潮席卷全球的当下，人工智能生成的深度伪造内容正成为新型网络毒瘤。印度作为拥有超10亿网民、平均年龄仅28岁的“超级数字市场”，近日祭出重拳——颁布全球最严苛的深度伪造治理新规，要求社交平台在3小时内删除政府认定的违规AI内容。这不仅将重塑meta、YouTube等科技巨头的内容审核体系，更可能成为全球AI治理的风向标。当“闪电下架”机制撞上言论自由边界，当自动化审核取代人工判断，这场监管与创新的博弈，正在为数字时代的全球治理写下惊心动魄的注脚。
印度政府勒令社交媒体平台加强对深度伪造及其他AI生成冒充内容的监管，同时大幅压缩平台响应下架指令的时限。这一举措或将重塑全球科技公司在印度这个全球最大、增长最快的互联网服务市场之一的内容审核模式。
周二发布的《2021年信息技术规则》修正案，首次将深度伪造纳入正式监管框架，强制要求对合成音视频内容进行标识与溯源，同时大幅压缩平台合规响应时间——政府官方下架令须在3小时内执行，特定紧急用户投诉更须在2小时内处理完毕。
印度作为数字市场的重要地位放大了新规的影响力。这个南亚国家拥有超10亿网民且人口结构年轻化，是meta和YouTube等平台的关键市场，这意味着在印度实施的合规措施很可能影响全球产品策略和内容审核实践。
根据修订后的规则，允许用户上传或分享音视频内容的社交媒体平台必须：要求用户披露内容是否系合成生成、部署工具验证这些声明、确保深度伪造内容被明确标识并嵌入可追溯来源数据。
新规直接禁止特定类别的合成内容，包括欺骗性冒充、未经同意的私密影像以及与严重犯罪相关的材料。若平台未能合规——特别是在政府或用户举报的情况下——可能丧失印度法律规定的“安全港”保护，面临更严厉的法律责任。
规则高度依赖自动化系统履行义务。平台需部署技术工具验证用户声明、识别并标记深度伪造内容，并从根本上阻止违禁合成内容的创建与传播。
“修订后的IT规则标志着对AI生成深度伪造的监管进入更精准阶段，”新德里政策咨询公司The Quantum Hub创始合伙人罗希特·库马尔指出，“大幅压缩的投诉处理时限——如2至3小时的下架窗口——将实质性提高合规负担，需要密切关注，尤其考虑到不合规将导致安全港保护失效。”
印度顶尖律所AZB & Partners合伙人阿普拉吉塔·拉纳表示，新规将监管重点集中于AI生成的音视频内容而非所有网络信息，同时为日常美化或效率提升类AI应用留下豁免空间。但她警告，要求中介平台在知悉内容后3小时内删除的规定，可能与既有的言论自由原则产生冲突。
“法律仍要求中介平台在知悉或获得实际认知后移除内容，且必须在3小时内完成，”拉纳补充说，标识要求将适用于所有格式，以遏制儿童性虐待材料和欺骗性内容的传播。
新德里数字倡导组织“互联网自由基金会”指出，急剧压缩的下架时限可能加速内容审查，几乎不留人工审核空间，迫使平台转向自动化过度删除。该组织在X平台发布的声明中，还对违禁内容类别的扩大化以及允许平台在无司法监督情况下向私人投诉者披露用户身份的规定表示担忧。
“这些近乎不可能实现的短时限消除了任何有意义的人工审核，”该组织警告称，这些变更可能损害言论自由保护和正当程序权利。
两位行业消息人士向TechCrunch透露，修正案经过有限磋商流程，最终规则仅采纳了小部分建议。虽然印度政府似乎听取了缩小监管范围的提议——聚焦AI生成的音视频内容而非所有网络材料——但其他建议未被采纳。消息人士称，草案与终版规则之间的变动幅度本应启动新一轮磋商，以更清晰指导企业理解合规要求。
政府下架权限在印度早已引发争议。社交媒体平台和公民社会团体长期批评内容移除令的宽泛性和不透明性，连埃隆·马斯克旗下的X公司也曾就屏蔽或删除帖子的指令在新德里法院提起诉讼，指控政府越权且缺乏充分制衡机制。
meta、谷歌、Snap、X及印度信息技术部均未回应置评请求。
此次规则修订恰逢X公司就下架权力的范围与透明度提出法律挑战后仅数月——2025年10月，印度政府刚缩减了有权下令删除网络内容的官员数量。
修正后的规则将于2月20日生效，留给平台调整合规系统的时间所剩无几。新规实施之际，印度正于2月16日至20日在新德里主办“人工智能影响峰会”，预计将吸引全球科技企业高管和政策制定者齐聚于此。
