nclick="xtip.photoApp('jzpic',{index:'1'})" data-xphoto="jzpic" src="http://www.wetsq.com/zb_users/upload/2025/10/3yfsaxx32cd.jpg" title="一根面条表情包，竟暴露了这项技术令人不寒而栗的未来！ 第1张" alt="一根面条表情包，竟暴露了这项技术令人不寒而栗的未来！ 第1张">
【编者按】当AI视频以假乱真到连威尔·史密斯本人都惊叹“完美如照片”时，我们是否正站在虚拟与现实的十字路口？两年前扭曲失真的意大利面画面，如今已进化成毛孔可见的超写实影像。OpenAI最新推出的Sora 2正以海啸之势席卷社交网络，复活逝者、复制明星、篡改历史仅需一句文字指令。当深度伪造从专业工作室滑向全民指尖，当半小时视频就能让任何人“开口说谎言”，我们赖以生存的真相基石正在崩塌。专家警告这种技术可能被用于诈骗、深度伪造和政治虚假信息，而澳大利亚在监管新AI平台方面是否落后也引发争论。面对这场认知革命，人类亟需在技术创新与伦理护栏之间找到平衡点。
美国演员威尔·史密斯吃意面的视频片段，已成为衡量生成式AI模型能力的非官方基准。
两年前画面中的意面还渲染得不成形状，史密斯的面部更是扭曲得骇人。
但到今年七月，AI生成的意面视频已逼真到让本尊亲自认证“绝对完美，照片般真实”。
最近OpenAI新推出的Sora 2应用掀起视频狂潮，社交媒体瞬间被名人、逝者和版权角色的超写实视频淹没。
专家担忧该技术可能被用于诈骗、深度伪造和政治虚假信息，关于澳大利亚在监管新AI平台方面是否严重落后也引发争论。
AI视频是否真实得过了头？澳大利亚人将面临哪些风险？
“有点瘆人”目前Sora 2尚未在澳大利亚开放。
但我请美国朋友雷切尔·鲁伊斯试做了几个测试视频。
应用扫描了她的面部并录制了几句语音。
当她要求生成关于Sora 2的SBS新闻风格视频时，系统输出了这段栩栩如生的报道：“OpenAI已发布新一代视频模型Sora 2，它能将文字指令转化为逼真影像，最高可生成2分钟的全高清或更高画质片段。”
鲁伊斯表示最终效果令人不适：“看到仅凭一句话就能生成所有这些很有趣，但我不喜欢。我觉得有点吓人。”
随后我请她用“SBS新闻记者希维·普雷马”的照片制作视频，但应用拒绝了该请求。
为应对此前名人AI视频泛滥的情况，Sora 2目前仅允许用户制作本人、部分历史人物或已授权公众人物的视频。
但指令应用从网络抓取我的数字足迹却部分奏效——生成了两个不同版本的“我”。
令人捧腹的是，系统不仅转换了我的性别，还在注册商标的SBS新闻标识上多加了个字母，这既表明存在安全机制，也引出了新的疑问。
谷歌的Veo 3.1应用则无此限制——仅凭一张照片和文字指令（与给Sora 2的相同）就创造了我的AI版本。
它让静态图像活起来，添加了面部表情和手势，还配上了描述其竞争对手Sora 2的旁白。
真相危机预警新南威尔士大学AI首席科学家托比·沃尔什向SBS新闻指出，此类内容可能扭曲大众与真相的关系。
他警告人们可能因接触过多AI内容，最终连真实信息也不再采信。
“我们将被娱乐至死，会有大量搞笑梗图传播，但我很怀疑这些是否真正有价值，”他表示，“这将消耗巨量能源，我更担心它会被用于制造混乱——伪造视频可能让我们连真实影像都不再相信。”
不过沃尔什对AI生成内容并非全盘否定，他肯定Sora给视频添加水印的做法，这在欧盟已是强制要求。
同样地，他认为澳大利亚的AI监管优于部分国家。
“技术发展太快，监管确实困难，但相较其他国家，我们其实处于不错的状态，”他解释道，“例如我们设有电子安全专员，这是全球首创。我认为他们在遏制技术危害方面做得不错。”
澳大利亚虽未出台专门AI立法，但通过现有法律进行规制。政府目前正在制定AI监管框架。
令人担忧的还有Sora 2应用内的社交媒体信息流，被指设计成令人上瘾的模式。
“这就像打了兴奋剂的TikTok，还能生成AI内容……他们显然想打造比现有平台庞大得多的社交媒体矩阵。”托伦斯大学AI教授赛耶德阿里·米贾利利分析道。
米贾利利指出该平台的速度令人不安——过去制作深度伪造需耗时数小时，如今“只需上传半分钟视频，就能让他人在不同场景中‘开口说话’，生成各种定制内容”。
他直言监管“既滞后又缺失”，强调在没有水印强制规定的情况下，辨别真伪几乎不可能，且会越来越难。
“问题在于这仅仅是Sora 2，想象Sora 20会是什么样子。”
SBS承诺不使用AI增强或生成内容。更多关于SBS人工智能使用指导原则的信息请点击此处。
