幾年前，影片中首次出現的深度造假就引發了人們對最壞情況的擔憂，而最壞的情況確實正在發生。隨著創作工具的民主化，我們正在觀察到用名人或匿名人士的臉製作的色情深度假貨的爆炸式增長——顯然，這是在未經受害者授權的情況下進行的。
要查找色情深度假貨，只需詢問：造訪託管此類影片的網站確實非常容易其品質不斷提高。不幸的是，絕大多數這些深度偽造品都是在未經受害者同意的情況下製作的，受害者在不知情的情況下「借出」自己的臉。電影明星、電視真人秀明星、匿名者……任何人都可能成為攻擊目標，其中女性尤甚。
非自願色情深度假貨盛行
分享者的分析有線給了該現象的程度的想法。在過去的七年裡，至少有 244,625 個未經同意的 Deepfake 內容被上傳到這個蓬勃發展的行業中 35 個最重要的網站和平台。今年前 9 個月，有 113,000 個影片發送到這些網站，比 2022 年全年增加了 54%。有可能到今年年底，累計上傳的影片數量將超過歷年。
這些數字並未考慮社群網路或訊息傳遞中分享的深度偽造內容。第一個深度造假影片出現在 2017 年底，研究人員立即擔心它會蔓延到未經同意的色情內容。它沒有失敗。
用於創建令人信服的深度偽造的工具，無論是在線服務還是應用程序，都成倍增加。區分現實與數位操縱變得越來越困難。此外，產生假影片非常簡單，只需點擊一兩次即可。
«這是針對普通人、普通高中生、普通成年人的東西——它已經成為一種日常現象»，Laments 研究員 Sophie Maddocks，賓州大學專門研究數位權利和網路性暴力。
法律對深度造假有效嗎？
«如果我們能讓這些技術更難取得，將會產生很大的影響。煽動性犯罪不應該需要兩秒鐘»，她補充道。法律正在準備中，就像法國一樣：政府對法律進行了修訂斯瑞恩數位空間的監管懲罰未經個人同意而傳播由人工智慧產生的有關個人的內容，並且沒有提及該內容是假的。他們也創造了一種新的罪行“未經他人同意發布具有性特徵的超級偽造品（深度偽造品）»。
儘管法律似乎不太可能禁止深度造假設計工具的使用及其傳播，但仍有可能減少這種流行病。生成人工智慧專家 Henry Ajder 解釋說在創建這些影片的過程中添加“摩擦”並發現這些類型的文件可能會減緩其傳播。
搜尋引擎可能會刪除託管和分享這些影片的網站；訪問提供者可以完全阻止它們。谷歌最近推出了新工具允許用戶要求刪除與其相關的不需要的內容。這還不足以徹底結束這些做法，但對於受害者來說，這將是一個好的開始。
來源 ： 有線
