快速發展人工智能（AI）帶來了福利和風險。
關於趨勢的一個是濫用語音克隆。在幾秒鐘內，騙子可以克隆聲音，並欺騙人們急需錢的朋友或家人。
新聞媒體，包括CNN，警告這些類型的騙局有可能影響數百萬人。
由於技術使犯罪分子更容易入侵我們的個人空間，因此對其使用保持謹慎，比以往任何時候都更為重要。
什麼是語音克隆？
AI的興起為圖像，文本，語音生成和。
雖然AI提供了許多好處，但它還為欺詐者提供了新方法，以利用個人來賺錢。
您可能聽說過”深擊，“在使用AI來創建假圖像，視頻甚至音頻的地方，通常涉及名人或政客。
語音克隆，一種深擊技術，通過捕獲簡短音頻樣本的語音模式，口音和呼吸來創建一個人聲音的數字複製品。
一旦捕獲了語音模式，AI語音生成器就可以將文本輸入轉換為類似於目標人的聲音的高度逼真的語音。
通過進步的技術，可以通過三秒鐘的音頻樣本。
雖然像“你好，有人在那裡”這樣的簡單短語嗎？可以導致語音克隆騙局，更長的對話有助於騙子捕獲更多的人聲細節。因此，最好在您確定呼叫者的身份之前對呼叫進行簡要介紹。
語音克隆在娛樂和醫療保健方面具有寶貴的應用 - 為藝術家提供遠程語音作品（甚至死後）並協助言語障礙者。
但是，它引起了嚴重的隱私和安全問題，強調了對保障措施的需求。
罪犯如何利用它
網絡犯罪分子利用語音克隆技術來模仿名人，當局或普通百姓欺詐。
他們創造緊迫感，獲得受害者的信任並通過禮品卡，電匯或加密貨幣要求錢。
過程開始通過從YouTube和Tiktok等來源收集音頻樣品。
接下來，該技術分析了音頻以生成新的錄音。
一旦克隆了聲音，就可以將其用於欺騙性的通信中，通常伴隨著欺騙呼叫者ID以顯得值得信賴。
許多語音克隆騙局案件成為頭條新聞。
例如，罪犯克隆了公司董事在阿拉伯聯合酋長國，策劃了5100萬美元的搶劫。
一個孟買的商人成為涉及印度大使館在迪拜的假電話的聲音克隆騙局的受害者。
最近在澳大利亞，騙子僱用了一個語音克隆昆士蘭州總理史蒂文·邁爾斯試圖欺騙人們投資比特幣。
青少年和兒童也是針對性的。在綁架騙局在美國，一個少年的聲音被克隆了，她的父母操縱符合要求。
這是多麼普遍？
最近的研究去年，英國有28％的成年人面臨語音克隆騙局，有46％的人沒有意識到這種騙局的存在。
它突出了一個很大的知識差距，造成了數百萬的欺詐風險。
2022年，近24萬澳大利亞人報告說是語音克隆騙局的受害者，導致財務損失$ A5.68億美元。
人們和組織如何保護它
語音克隆帶來的風險需要多學科回應。
人們和組織可以採取多種措施來保護濫用語音克隆技術。
第一的，公眾意識運動和教育可以幫助保護人員和組織，並減輕這些類型的欺詐。
公私協作可以為語音克隆提供明確的信息和同意選擇。
其次，人們和組織應尋求使用生物識別安全性檢測，這是可以識別和驗證現場聲音而不是假貨的新技術。使用語音識別的組織應考慮採用多因素身份驗證。
第三，增強針對語音克隆的調查能力是執法的另一個關鍵措施。
最後，準確和更新的法規對於國家管理相關風險需要國家。
澳大利亞執法人員認識到AI的潛在好處。
然而，對這項技術的“陰暗面”的擔憂促使呼籲研究犯罪使用”針對受害者的人工智能。”
還呼籲採取可能採取的干預策略來解決這個問題。
這樣的努力應該與整體聯繫國家計劃對抗網絡犯罪，重點是主動，反應性和恢復性策略。
國家計劃規定了對服務提供商的照顧義務，反映在澳大利亞政府的新立法保護公共和小型企業。
該立法旨在提出新的義務，以防止，檢測，報告和破壞騙局。
這將適用於電信公司，銀行和數字平台提供商等受監管的組織。目的是通過防止，檢測，報告和破壞來保護客戶涉及欺騙的網絡騙局。
降低風險
隨著網絡犯罪的成本，澳大利亞經濟估計一筆420億美元，公眾意識和強大的保障措施至關重要。
像澳大利亞這樣的國家正在認識到日益增長的風險。針對語音克隆和其他欺詐的措施的有效性取決於其適應性，成本，可行性和法規依從性。
所有利益相關者（政府，公民和執法部門）都必須保持警惕，並提高公眾意識，以減少受害風險。
Leo SF Lin，警務研究高級講師，查爾斯·斯特特大學;杜安·阿斯萊特（Duane Aslett），警務研究高級講師，查爾斯·斯特特大學;Geberrew Tolu Mekonen，警務研究學院講師，查爾斯·斯特特大學， 和Mladen Zecevic，警務學院講師，查爾斯·斯特特大學
