首尔，2月19日(韩联社)——距离韩国4月份的议会选举还有不到50天的时间，对人工智能(AI)生成的深度假视频和图像扩散的担忧正在增加，促使选举当局提高警惕。
据中央选举管理委员会透露，从1月29日到上周末，共发现了129条人工智能媒体内容，违反了新修订的《选举法》。
该法律将于1月29日生效，禁止为竞选目的使用深度造假，违法者将面临最高7年监禁或1000万韩元(合7500美元)罚款。
在人工智能技术进步的推动下，NEC对深度造假的打击代表了对不断变化的虚假信息格局的积极回应。
修订后的法律于去年12月由国民议会(National Assembly)通过，旨在遏制虚假信息的传播，并保护选举过程的完整性，免受新出现的威胁。
在过去的选举中，无论是在国内还是在国际上，人工智能制作的视频和图像都已经被使用过，这引发了人们的担忧，即人工智能制作的视频和图像是对民主的最大威胁之一，尤其是以假新闻和误导公众舆论的形式。
例如，在2022年的地方选举中，社交媒体上流传了一段人工智能生成的视频，视频中总统尹锡悦支持执政党的地方候选人。
今年1月，新罕布什尔州的选民收到了一个人工智能生成的模仿美国总统乔·拜登的机器人电话，建议他们不要在该州的总统初选中投票。
随着人工智能技术的不断发展和扩散，专家们警告说，深度造假的制作越来越复杂，速度也越来越快，超过了选举当局采用的传统核查程序。与验证工作相比，深度伪造的创造速度快得惊人，因此当局很难阻止深度伪造的扩散。
首尔女子大学教授金明柱(音)表示:“通过深度造假技术制作可信假品的速度比选举管理委员会的验证过程快得多。”“这是不能匹敌的。”
此外，深度伪造技术的不断发展为检测和缓解带来了额外的障碍，需要采取多方面的方法，优先考虑严格的验证协议。
NEC相关人士表示:“制作深度造假的技术也在不断发展。”“我们有一个逐步核实的过程来审查、调查和采取行动，而不仅仅是使用特定公司的程序。”
brk(结束)
