当IA被用来克隆你所爱之人的声音并欺骗你......想象一下场景：你接到一个来自未知号码的电话。线路上：您的孩子恳求您帮助他。他刚刚被绑架，绑架者索要数千欧元。这正是发生在居住在亚利桑那州的美国人詹妮弗·德斯特凡诺 (Jennifer DeStefano) 身上的事情。通过拿起他的电话，这位母亲听到她 15 岁的女儿哭了，解释说她“做了一些蠢事”，还没等她听到一个男人说道：“我有你的女儿。事情将会是这样的。你打电话给警察，你叫谁，我就给她注射毒品。我要对她做我想做的事 然后把她送到墨西哥”。该男子向他索要 100 万美元，然后将赎金降至 5 万美元。
对于詹妮弗·德斯特凡诺来说，事情很清楚。她的女儿被绑架了。 “这完全是他的声音。那是他的语气变化。这就是她哭泣的方式。我从未怀疑过那是她»，她向我们电视频道的同事作证AZ家族，4月10日。然而，电话那头的并不是他 15 岁的女儿。这是他的声音，由人工智能克隆。幸运的是，这次勒索企图的受害者在事情进一步发展之前意识到了这一点。当她与绑匪聊天时，她的一位熟人目睹了这起电话，冷静地给她的丈夫打电话。几分钟之内，她就收到了女儿安全的确认消息。
«我们不能再相信自己的耳朵»
有多少人接到过这种使用语音克隆并声称家庭紧急情况或虚假绑架的电话？没有人知道，但它们相对常见。以至于3月20日，联邦贸易委员会 (FTC)，一个在美国负责消费者保护的组织，已经注意到他特别令人担忧的电话。美国联邦贸易委员会解释说，诈骗者经常要求受害者电汇资金、发送加密货币或使用礼品卡支付赎金。一旦金钱或礼品卡号码被转移，几乎不可能将其取回。
另请阅读： 一个声音人工智能被用于种族主义、恐同和恐变性目的
据报道，这就是几周前发生在一个加拿大家庭身上的事情。华盛顿邮报，3月5日。一名冒充律师的人告诉年迈的父母，他们的儿子在车祸中杀死了一名美国外交官，目前正在监狱里，需要钱支付律师费。然后，他给了他们他们的儿子——克隆声音——足以说服父母寄出 15,000 美元，但他们永远无法收回。
«我们不能再相信自己的耳朵»，估计美国亚利桑那州立大学计算机科学教授 Subbarao Kambhampati 接受美国电视频道采访。据这位专家介绍，语音克隆不再需要数小时的录音。现在，三秒就够了。结果是惊人的。 “大多数声音克隆都能模仿音色和情感。样本越大，仿制的就越完美。显然，如果你用正常的声音说话，我不一定能够克隆你不高兴时的声音，但如果我也有三秒你不高兴的声音，那么一切皆有可能»，他补充道。
另请阅读： 当人工智能可以破解银行账户时
克隆受害者亲人声音的骗子经常在社交网络上找到猎物，在社交网络上可以找到个人信息，有时还可以找到语音片段，例如 TikTok 上分享的视频。然后，声音将被克隆，诈骗者将能够让它说出任何话。
来源 ： AZ家族
