的快速發展人工智慧（AI）既帶來了好處，也帶來了風險。
一個令人擔憂的趨勢是語音克隆的濫用。騙子可以在幾秒鐘內克隆一個聲音，並誘騙人們認為朋友或家人急需錢。
新聞媒體，包括CNN，警告此類詐騙有可能影響數百萬人。
由於科技使犯罪分子更容易侵入我們的個人空間，因此對其使用保持謹慎比以往任何時候都更加重要。
什麼是聲音克隆？
人工智慧的興起為圖像、文字、語音生成和機器學習。
雖然人工智慧提供了許多好處，但它也為詐欺者提供了利用個人牟利的新方法。
您可能聽過“深度造假”，其中人工智能被用來創建虛假圖像、視頻甚至音頻，通常涉及名人或政客。
語音克隆是一種 Deepfake 技術，透過從簡短的音訊樣本中捕捉人的語音模式、口音和呼吸來創建人聲的數位複製品。
一旦捕捉語音模式，人工智慧語音產生器就可以將文字輸入轉換為類似於目標人聲音的高度逼真的語音。
隨著技術的進步，語音克隆只需三秒音訊樣本。
雖然是一個簡單的短語，例如“你好，有人嗎？”可能會導致聲音克隆詐騙，較長的對話有助於詐騙者捕獲更多的聲音細節。因此，在確定來電者的身分之前，最好先保持通話簡短。
語音克隆在娛樂和醫療保健方面具有有價值的應用？為藝術家提供遠端語音工作（甚至死後）並協助有言語障礙的人。
然而，它引發了嚴重的隱私和安全問題，凸顯了採取保障措施的必要性。
它是如何被犯罪者利用的
網路犯罪分子利用語音複製技術冒充名人、當局或普通人進行詐騙。
他們製造緊迫感，贏得受害者的信任，並透過禮品卡、電匯或加密貨幣索取金錢。
流程開始透過從 YouTube 和 TikTok 等來源收集音訊樣本。
接下來，該技術分析音訊以產生新的錄音。
一旦聲音被克隆，它就可以用於欺騙性通信，通常伴隨著欺騙來電顯示以顯得可信。
多起聲音克隆詐騙案件成為頭條新聞。
例如，犯罪分子克隆了一個人的聲音公司董事在阿拉伯聯合大公國策劃了一場價值 5,100 萬澳元的搶劫案。
一個孟買的商人成為語音克隆騙局的受害者，該騙局涉及來自印度駐迪拜大使館的虛假電話。
最近在澳大利亞，詐騙者使用了語音克隆昆士蘭州州長史蒂文·邁爾斯試圖欺騙人們投資比特幣。
青少年和兒童也是目標。在一個綁架騙局在美國，一名青少年的聲音被克隆，她的父母被迫遵守要求。
它有多廣泛？
最近的研究顯示 28% 的英國成年人去年曾遭遇語音克隆詐騙，其中 46% 的人不知道此類詐騙的存在。
它突顯了巨大的知識差距，使數百萬人面臨詐欺風險。
2022 年，近 24 萬澳洲人報告成為語音克隆詐騙的受害者，導致經濟損失5.68 億澳元。
人們和組織如何防範它
聲音克隆帶來的風險需要多學科反應。
個人和組織可以採取多種措施來防止語音克隆技術的濫用。
第一的，公眾意識活動和教育可以幫助保護人員和組織並減少此類詐欺。
公私合作可以為語音克隆提供清晰的資訊和同意選項。
其次，個人和組織應該考慮使用具有活體檢測功能的生物辨識安全，這是一種新技術，可以識別和驗證真人語音而不是假語音。使用語音辨識的組織應考慮採用多因素身份驗證。
第三，加強克隆聲音的偵查能力是執法的另一個重要舉措。
最後，準確和更新的法規各國需要管理相關風險。
澳洲執法部門認識到人工智慧的潛在好處。
然而，對這項技術「黑暗面」的擔憂促使人們呼籲對「犯罪用途」進行研究用於受害者定位的人工智慧」。
也有人呼籲執法部門採取可能的干預策略來解決這個問題。
這些努力應與整體結合打擊網路犯罪的國家計劃，重點在於主動、被動和恢復性策略。
該國家計劃規定了服務提供者的注意義務，這反映在澳洲政府的新政策中立法保護公眾和小企業。
該立法旨在規定新的義務，以預防、發現、報告和破壞詐騙。
這將適用於電信公司、銀行和數位平台供應商等受監管組織。目標是透過預防、檢測、報告和破壞來保護客戶涉及欺騙的網路詐騙。
降低風險
據估計，網路犯罪對澳洲經濟造成了損失420億澳元，公眾意識和強有力的保障至關重要。
澳洲等國家正在認識到日益增長的風險。打擊聲音克隆和其他詐欺措施的有效性取決於其適應性、成本、可行性和監管合規性。
所有利害關係人？政府、公民和執法部門？必須保持警惕並提高公眾意識，以減少受害風險。
林順豐，警務研究高級講師，查爾斯特大學;杜安·阿斯萊特，警務研究高級講師，查爾斯特大學;格貝魯圖魯居民，講師，警務研究學院，查爾斯特大學， 和姆拉登·澤切維奇，警務研究學院講師，查爾斯特大學
