的快速發展人工智能（AI）既帶來了好處，也帶來了風險。
一個令人擔憂的趨勢是語音克隆的濫用。騙子可以在幾秒鐘內克隆一個聲音，並誘騙人們認為朋友或家人急需錢。
新聞媒體，包括美國有線電視新聞網，警告此類詐騙有可能影響數百萬人。
由於技術使犯罪分子更容易侵入我們的個人空間，因此對其使用保持謹慎比以往任何時候都更加重要。
什麼是聲音克隆？
人工智能的興起為圖像、文本、語音生成和。
雖然人工智能提供了許多好處，但它也為欺詐者提供了利用個人牟利的新方法。
您可能聽說過“深度造假”，其中人工智能被用來創建虛假圖像、視頻甚至音頻，通常涉及名人或政客。
語音克隆是一種 Deepfake 技術，通過從簡短的音頻樣本中捕獲人的語音模式、口音和呼吸來創建人聲的數字複製品。
一旦捕獲語音模式，人工智能語音生成器就可以將文本輸入轉換為類似於目標人聲音的高度逼真的語音。
隨著技術的進步，語音克隆只需三秒音頻樣本。
雖然是一個簡單的短語，例如“你好，有人嗎？”可能會導致語音克隆詐騙，較長的對話有助於詐騙者捕獲更多的聲音細節。因此，在確定呼叫者的身份之前，最好保持通話簡短。
語音克隆在娛樂和醫療保健領域具有有價值的應用——為藝術家提供遠程語音工作（甚至死後）並協助有語言障礙的人。
然而，它引發了嚴重的隱私和安全問題，凸顯了採取保障措施的必要性。
它是如何被犯罪分子利用的
網絡犯罪分子利用語音克隆技術冒充名人、當局或普通人進行詐騙。
他們製造緊迫感，贏得受害者的信任，並通過禮品卡、電匯或加密貨幣索要資金。
過程開始通過從 YouTube 和 TikTok 等來源收集音頻樣本。
接下來，該技術分析音頻以生成新的錄音。
一旦聲音被克隆，它就可以用於欺騙性通信，通常還伴隨著欺騙來電顯示以顯得可信。
多起聲音克隆詐騙案件成為頭條新聞。
例如，犯罪分子克隆了一個人的聲音公司董事在阿拉伯聯合酋長國策劃了一場價值 5100 萬澳元的搶劫案。
一個孟買的商人成為語音克隆騙局的受害者，該騙局涉及來自印度駐迪拜大使館的虛假電話。
最近在澳大利亞，詐騙者使用了語音克隆昆士蘭州州長史蒂文·邁爾斯試圖欺騙人們投資比特幣。
青少年和兒童也是目標。在一個綁架騙局在美國，一名青少年的聲音被克隆，她的父母被迫遵守要求。
它有多廣泛？
最近的研究顯示 28% 的英國成年人去年遭遇過語音克隆詐騙，其中 46% 的人不知道此類詐騙的存在。
它突顯了巨大的知識差距，使數百萬人面臨欺詐風險。
2022 年，近 24 萬澳大利亞人報告成為語音克隆詐騙的受害者，導致經濟損失5.68 億澳元。
人們和組織如何防範它
聲音克隆帶來的風險需要多學科反應。
個人和組織可以採取多種措施來防止語音克隆技術的濫用。
第一的，公眾意識活動和教育可以幫助保護人員和組織並減少此類欺詐。
公私合作可以為語音克隆提供清晰的信息和同意選項。
其次，個人和組織應該考慮使用具有活體檢測功能的生物識別安全，這是一種新技術，可以識別和驗證真人語音而不是假語音。使用語音識別的組織應考慮採用多因素身份驗證。
第三，加強對克隆聲音的偵查能力是執法的又一重要舉措。
最後，準確和更新的法規各國需要管理相關風險。
澳大利亞執法部門認識到人工智能的潛在好處。
然而，對這項技術“黑暗面”的擔憂促使人們呼籲對“犯罪用途”進行研究用於受害者定位的人工智能”。
還有人呼籲執法部門採取可能的干預策略來解決這一問題。
這些努力應與整體相結合打擊網絡犯罪的國家計劃，重點關注主動、被動和恢復性策略。
該國家計劃規定了服務提供商的注意義務，這反映在澳大利亞政府的新政策中立法保護公眾和小企業。
該立法旨在規定新的義務，以預防、發現、報告和破壞詐騙。
這將適用於電信公司、銀行和數字平台提供商等受監管組織。目標是通過預防、檢測、報告和破壞來保護客戶涉及欺騙的網絡詐騙。
降低風險
據估計，網絡犯罪給澳大利亞經濟造成了損失420億澳元，公眾意識和強有力的保障至關重要。
澳大利亞等國家正在認識到日益增長的風險。打擊聲音克隆和其他欺詐措施的有效性取決於其適應性、成本、可行性和監管合規性。
所有利益相關者——政府、公民和執法部門——必須保持警惕並提高公眾意識，以減少受害風險。
林順豐，警務研究高級講師，查爾斯特大學;杜安·阿斯萊特，警務研究高級講師，查爾斯特大學;格伯魯·托魯·梅科寧，講師，警務研究學院，查爾斯特大學， 和姆拉登·澤切維奇，警務研究學院講師，查爾斯特大學
