當IA被用來克隆你所愛之人的聲音並欺騙你......想像一下場景：你接到一個來自未知號碼的電話。線上：您的孩子懇求您幫助他。他剛剛被綁架，綁架者索要數千歐元。這正是發生在居住在亞利桑那州的美國人詹妮弗·德斯特凡諾 (Jennifer DeStefano) 身上的事情。透過拿起他的電話，這位母親聽到她 15 歲的女兒哭了，解釋說她“做了一些蠢事”，還沒等她聽到一個男人說：“我有你的女兒。事情將會是這樣的。你打電話給警察，你叫誰，我就給她注射毒品。我要對她做我想做的事 然後把她送到墨西哥」。該男子向他索要 100 萬美元，然後將贖金降至 5 萬美元。
對於詹妮弗·德斯特凡諾來說，事情很清楚。她的女兒被綁架了。 “這完全是他的聲音。那是他的語氣變化。這就是她哭泣的方式。我從未懷疑過那是她»，她向我們電視頻道的同事作證AZ家族，4月10日。然而，電話那頭的並不是他 15 歲的女兒。這是他的聲音，由人工智慧克隆。幸運的是，這次勒索企圖的受害者在事情進一步發展之前意識到了這一點。當她與綁匪聊天時，她的一位熟人目睹了這起電話，冷靜地打電話給她的丈夫。幾分鐘之內，她就收到了女兒安全的確認消息。
«我們不能再相信自己的耳朵»
有多少人接到過這種使用語音克隆並聲稱家庭緊急情況或虛假綁架的電話？沒有人知道，但它們相對常見。以至於3月20日，聯邦貿易委員會 (FTC)，一個在美國負責消費者保護的組織，已經注意到他特別令人擔憂的電話。美國聯邦貿易委員會解釋說，詐騙者經常要求受害者電匯資金、發送加密貨幣或使用禮品卡支付贖金。一旦金錢或禮品卡號碼被轉移，幾乎不可能將其取回。
另請閱讀： 一個聲音人工智慧被用於種族主義、恐同和恐變性目的
據報道，這就是幾週前發生在一個加拿大家庭身上的事情。華盛頓郵報，3月5日。一名冒充律師的人告訴年邁的父母，他們的兒子在車禍中殺死了一名美國外交官，目前正在監獄裡，需要錢支付律師費。然後，他給了他們他們的兒子——克隆聲音——足以說服父母寄出 15,000 美元，但他們永遠無法收回。
«我們不能再相信自己的耳朵»，估計美國亞利桑那州立大學電腦科學教授 Subbarao Kambhampati 接受美國電視頻道採訪。據這位專家介紹，語音克隆不再需要數小時的錄音。現在，三秒就夠了。結果是驚人的。 “大多數聲音克隆都能模仿音色和情緒。樣本越大，仿製的就越完美。顯然，如果你用正常的聲音說話，我不一定能夠克隆你不高興時的聲音，但如果我也有三秒鐘你不高興的聲音，那麼一切皆有可能»，他補充道。
另請閱讀： 當人工智慧可以破解銀行帳戶時
複製受害者親人聲音的騙子經常在社交網路上找到獵物，在社交網路上可以找到個人訊息，有時還可以找到語音片段，例如 TikTok 上分享的影片。然後，聲音將被克隆，詐騙者將能夠讓它說出任何話。
來源 ： AZ家族
