女演员拉什米卡·曼丹娜(Rashmika Mandanna)的深度造假视频在网上疯传，让人们关注到人工智能深度造假令人不安的世界，以及对不断发展的人工智能(AI)不受监管的访问所带来的危险。
视频显示，与拉什米卡长相相似的女子穿着黑色套装进入电梯。这个女人的脸经过了变形和编辑，有点像曼丹娜。
这段深度造假视频在X(以前的推特)上被观看了超过1200万次，它是根据英裔印度女性扎拉·帕特尔上传到Instagram上的一段视频编辑而成的。
Mandanna对这段广为传播的deepfake视频表示了担忧，她说，滥用技术不仅对她来说是可怕的，对普通网民来说也是可怕的。
“分享这一点我真的很伤心，不得不谈论我在网上传播的深度假视频。老实说，这样的事情不仅对我来说非常可怕，而且对我们每个人来说都非常可怕，因为我们今天很容易受到如此多的伤害，因为技术被滥用了，”她在Instagram上写道。
演员Amitabh Bachchan要求对该女演员的深度伪造视频采取法律行动。一些社交媒体用户也对互联网上“不可靠”信息的迅速传播表示担忧。
印度电子和信息技术国务部长拉吉夫·钱德拉塞卡(Rajeev Chandrasekhar)指责社交媒体平台无法处理含有深度虚假和错误信息的内容。
他在推特上写道:“根据2023年4月通知的IT规则，平台有法律义务确保任何用户不发布错误信息，并确保在任何用户或政府举报后，在36小时内删除错误信息。如果平台不遵守这一点，将适用第7条规则，受害方可以根据IPC的规定将平台告上法庭。”
人工智能深度造假是一种利用人工智能技术以图像或视频的形式创造高度令人信服的虚假内容的操纵形式。人工智能(AI)、photoshop、机器学习等在线工具已被广泛用于制作深度假视频、剪辑和其他内容。
人工智能生成的虚假内容被设计成由真人创作或以真人为特征，而实际上，它们完全是假的。Deepfake技术可以制作虚构的照片、变形视频，甚至是公众人物的“语音克隆”。
深度造假通常会改变现有的内容，比如将一个人换成另一个人的图像或视频，以生成逼真的变形媒体。这项技术还可以用来创建原创内容，在这些内容中，人们会被展示做了什么或说了什么他们没有做过或说过的话。
深度造假主要用于生成色情内容，其中大多数是未经双方同意的。最近出现了一些让女性脱衣的数码照片应用、创造“人工智能女孩”的性感文字转图片提示，以及在包括欧洲和美国在内的世界各地助长“性勒索”行为的篡改图片。
女性是人工智能工具和应用程序的特别目标，这些工具和应用程序广泛免费提供，不需要专业技术知识。这些应用程序允许用户以数字方式从照片中脱去衣服，或者将他们的脸插入色情视频中。
包括歌手泰勒·斯威夫特和女演员艾玛·沃特森在内的名人都是深度假色情的受害者。荷兰人工智能公司Sensity的一项研究显示，网上约96%的深度假视频都是未经同意的色情内容，其中大多数都是女性。
防范深度造假的一些基本技巧是:
限制人数共享的所有信息在线减少可用于创建深度伪造的数据。
提升你自己提高安全性，避免分享可能被用来制造深度伪造的照片或视频。
人，谁是ncerned一关于他们的人所有的数据，都应该考虑将他们的Instagram账户从公开改为私人账户。
如果用户有企业账户，那么他们就可以使用内部隐藏的人Instagram上的照片和视频。
在使用社交媒体时一定要保持谨慎，并确保你的社交媒体账号安全。
印度没有明确的法律专门处理深度假冒网络犯罪，但其他各种法律可以用来处理犯罪。
信息技术法案:2000年信息技术法案第66D条规定了滥用通信设备或计算机资源用于作弊或冒充的规定。法律有监禁的规定罚款最高10万卢比，最高3年。
《信息技术法》第66E条:《信息技术法》第66E条规定，如果一个人的隐私因在互联网上捕捉、发布或传输他们的照片而被侵犯，将受到惩罚。该罪行可判处监禁根据《瞭望》的一份报告，该公司将被处以最高3年的罚款或最高20万卢比的罚款。
《1957年版权法》:该法案第51条规定，当任何财产下列情况时，都违反了《版权法》NGS给另一个人有G使用专有权。
《2021年数据保护法案》:该法案规定对个人数据泄露行为进行处罚Nal和non- person任何类型的所有数据。这项立法可以在处理网络犯罪方面发挥关键作用，包括深度造假。
2023年IT规则:根据2023年IT修订规则，数字平台有法律义务确保在网站或社交媒体上没有发布错误信息。互联网网站还必须确保在任何用户或政府举报后，在36小时内删除错误信息。
