这是没有人想要的新的名人身份标志。珍妮弗·安妮斯顿、奥普拉·温弗瑞和凯莉·詹娜的声音都曾被骗子克隆过。网络博主利用人工智能模仿电视金融顾问马丁?刘易斯（Martin Lewis）的虎式口音。本周末，大卫·阿滕伯勒（David Attenborough）称自己“深感不安”，因为他发现自己的克隆声音被用来发布有党派倾向的美国新闻简报。
现在，专家们警告说，语音克隆的发展速度已经超过了法律的规定，因为技术人员将以前笨重的声音发生器改造成能够模仿人类语调中最细微的停顿和呼吸的模型。
多米尼克·李博士是影视领域的人工智能专家，他在周一接受《卫报》采访时表示：“我们的隐私和版权法并没有跟上这项新技术的发展，所以大卫·阿滕伯勒无能为力。”
李斯召集了合成媒体研究网络（Synthetic Media Research Network），该网络的成员包括制作已故访谈节目采访者迈克尔·帕金森（Michael Parkinson）的人工智能版本的公司，该公司将制作一部8集的无剧本电视剧《虚拟帕金森》（Virtually Parkinson），并邀请新嘉宾。这个语音克隆项目是在帕金森氏家族和遗产的同意下进行的。
“（英国）政府绝对需要关注（语音克隆），因为这是一个主要的欺诈问题，”李说。“它需要政府监管的大棒，以阻止（滥用）……我们不能让它变成一场混战。”
根据英国国民西敏寺银行本月的研究，去年英国的人工智能语音克隆骗局增加了30%。另一家贷款机构斯塔林银行（Starling bank）发现，28%的人在过去一年中至少一次成为人工智能语音克隆骗局的目标。
据报道，语音克隆也被诈骗者用来实施一种“嗨妈妈”短信骗局，诈骗者假扮成需要父母紧急汇款的孩子。在已经模糊不清的电话线路上，很难发现一个恳求的孩子是骗子的克隆。建议消费者先挂断电话，然后再打一个可信的号码进行检查。
那些未经同意就被克隆声音的人觉得这不仅仅是一件麻烦事。阿滕伯勒周日告诉BBC：“我花了一辈子的时间试图说出我相信的真相，但我发现这些天我的身份正在被其他人窃取，我深感不安，我强烈反对他们用我的身份来表达他们的想法。”
“人工智能不理解情感”
当OpenAI最新的人工智能模型chatgpt - 40上的一个新语音选项的声音非常接近演员斯嘉丽·约翰逊（Scarlett Johansson）的声音时，她说她感到震惊和愤怒，因为这个声音“听起来和我的声音非常相似，我最亲密的朋友和新闻媒体都分不出区别”。
克隆声音的兴起引发了这样一个问题：它们错过了真实人类声音的哪些方面？李斯说：“最大的问题是，人工智能不理解情绪，也不理解情绪如何改变一个词或短语对情绪的影响，以及如何改变声音来表达这种影响。”
为广告、动画和教学培训提供声音的画外音行业，不得不对技术进步做出快速反应。伦敦画外音画廊（Voiceover Gallery）的音频主管乔?刘易斯（Joe Lewis）表示，他们已经克隆了一些艺术家的声音。画外音画廊为Specsavers和National Express的广告提供了真实的人声。
他说，人工智能似乎对英国男性的声音效果最好，也许是因为这反映了用于训练算法的录音类型的偏见，但他警告说，总的来说，“它的生成方式有些东西会让你不那么专注”。
“当人工智能（语音）呼吸时，它是非常重复的呼吸，”他说。“呼吸在正确的位置，但感觉不自然……（但是）它能达到真正完美的程度吗？”我不明白为什么不可以，但要达到完整的情感范围还有很长的路要走。”
《卫报》
特蕾莎·雷迪：真相变成谎言，谎言变成真相——人工智能对我们选举的威胁
