的快速发展人工智能（AI）既带来了好处，也带来了风险。
一个令人担忧的趋势是语音克隆的滥用。骗子可以在几秒钟内克隆一个声音，并诱骗人们认为朋友或家人急需钱。
新闻媒体，包括美国有线电视新闻网，警告此类诈骗有可能影响数百万人。
由于技术使犯罪分子更容易侵入我们的个人空间，因此对其使用保持谨慎比以往任何时候都更加重要。
什么是声音克隆？
人工智能的兴起为图像、文本、语音生成和。
虽然人工智能提供了许多好处，但它也为欺诈者提供了利用个人牟利的新方法。
您可能听说过“深度造假”，其中人工智能被用来创建虚假图像、视频甚至音频，通常涉及名人或政客。
语音克隆是一种 Deepfake 技术，通过从简短的音频样本中捕获人的语音模式、口音和呼吸来创建人声的数字复制品。
一旦捕获语音模式，人工智能语音生成器就可以将文本输入转换为类似于目标人声音的高度逼真的语音。
随着技术的进步，语音克隆只需三秒音频样本。
虽然是一个简单的短语，例如“你好，有人吗？”可能会导致语音克隆诈骗，较长的对话有助于诈骗者捕获更多的声音细节。因此，在确定呼叫者的身份之前，最好保持通话简短。
语音克隆在娱乐和医疗保健领域具有有价值的应用——为艺术家提供远程语音工作（甚至死后）并协助有语言障碍的人。
然而，它引发了严重的隐私和安全问题，凸显了采取保障措施的必要性。
它是如何被犯罪分子利用的
网络犯罪分子利用语音克隆技术冒充名人、当局或普通人进行诈骗。
他们制造紧迫感，赢得受害者的信任，并通过礼品卡、电汇或加密货币索要金钱。
过程开始通过从 YouTube 和 TikTok 等来源收集音频样本。
接下来，该技术分析音频以生成新的录音。
一旦声音被克隆，它就可以用于欺骗性通信，通常还伴随着欺骗来电显示以显得可信。
多起声音克隆诈骗案件成为头条新闻。
例如，犯罪分子克隆了一个人的声音公司董事在阿拉伯联合酋长国策划了一场价值 5100 万澳元的抢劫案。
一个孟买的商人成为语音克隆骗局的受害者，该骗局涉及来自印度驻迪拜大使馆的虚假电话。
最近在澳大利亚，诈骗者使用了语音克隆昆士兰州州长史蒂文·迈尔斯试图欺骗人们投资比特币。
青少年和儿童也是目标。在一个绑架骗局在美国，一名青少年的声音被克隆，她的父母被迫遵守要求。
它有多广泛？
最近的研究显示 28% 的英国成年人去年遭遇过语音克隆诈骗，其中 46% 的人不知道此类诈骗的存在。
它突显了巨大的知识差距，使数百万人面临欺诈风险。
2022 年，近 24 万澳大利亚人报告成为语音克隆诈骗的受害者，导致经济损失5.68 亿澳元。
人们和组织如何防范它
声音克隆带来的风险需要多学科反应。
个人和组织可以采取多种措施来防止语音克隆技术的滥用。
第一的，公众意识活动和教育可以帮助保护人员和组织并减少此类欺诈。
公私合作可以为语音克隆提供清晰的信息和同意选项。
其次，个人和组织应该考虑使用具有活体检测功能的生物识别安全，这是一种新技术，可以识别和验证真人语音而不是假语音。使用语音识别的组织应考虑采用多因素身份验证。
第三，加强对克隆声音的侦查能力是执法的又一重要举措。
最后，准确和更新的法规各国需要管理相关风险。
澳大利亚执法部门认识到人工智能的潜在好处。
然而，对这项技术“黑暗面”的担忧促使人们呼吁对“犯罪用途”进行研究用于受害者定位的人工智能”。
还有人呼吁执法部门采取可能的干预策略来解决这一问题。
这些努力应与整体相结合打击网络犯罪的国家计划，重点关注主动、被动和恢复性策略。
该国家计划规定了服务提供商的注意义务，这反映在澳大利亚政府的新政策中立法保护公众和小企业。
该立法旨在规定新的义务，以预防、发现、报告和破坏诈骗。
这将适用于电信公司、银行和数字平台提供商等受监管组织。目标是通过预防、检测、报告和破坏来保护客户涉及欺骗的网络诈骗。
降低风险
据估计，网络犯罪给澳大利亚经济造成了损失420亿澳元，公众意识和强有力的保障至关重要。
澳大利亚等国家正在认识到日益增长的风险。打击声音克隆和其他欺诈措施的有效性取决于其适应性、成本、可行性和监管合规性。
所有利益相关者——政府、公民和执法部门——必须保持警惕并提高公众意识，以减少受害风险。
林顺丰，警务研究高级讲师，查尔斯特大学;杜安·阿斯莱特，警务研究高级讲师，查尔斯特大学;格贝鲁·托鲁·梅科宁，讲师，警务研究学院，查尔斯特大学， 和姆拉登·泽切维奇，警务研究学院讲师，查尔斯特大学
