非,湯姆漢克斯不會在社群媒體上販售牙科保險。這位真正的演員在他的 Instagram 帳戶上警告說,我們看到他為牙科護理做廣告的影片是假的。 “我與此無關“,他解釋道。
該廣告展示了湯姆漢克斯的虛擬版本,其聲音由人工智慧再現。去年5月,演員痛惜在播客中,這些技術可以重現它“32歲,直到時間的盡頭» : «現在任何人都可以在任何年齡透過人工智慧或深度偽造來重新創造自己(…)除了知道這是用人工智慧完成的之外,沒有任何東西可以告訴你這不是關於我的»。
人工智慧及其工作室的使用也好萊塢演員罷課的核心。事實上,深度造假越來越難以用肉眼識別,需要對這些影像進行大量的經驗才能確定特定影片是否被偽造。
另一種媒體,另一種受眾,但同樣的問題:著名的YouTuber 吉米·唐納森(Jimmy Donaldson)(以“MrBeast”的綽號而聞名)提醒他的粉絲,一段深度偽造的視頻正在TikTok 上流傳,我們可以在其中看到一個非常令人信服的克隆,宣布舉辦一場贏得 iPhone 的競賽;您「只需」捐獻 2 美元即可參與。 MrBeast 已經習慣了競爭,但這是一個竊取資料甚至銀行資訊的騙局。
很多人都收到了我的這個 Deepfake 詐騙廣告…社群媒體平台準備好應對 AI Deepfake 的崛起了嗎?這是一個嚴重的問題pic.twitter.com/llkhxswQSw
— 野獸先生 (@MrBeast)2023 年 10 月 3 日
TikTok 可能會禁止深度造假,但詐騙者總是能找到規避安全的方法。 YouTuber 想知道社群媒體平台將如何處理這種日益現實的騙局。這個問題確實值得問。
Facebook 的關鍵決定
Facebook 可以提供初步的答案。這個社交網路的監督委員會將在未來幾天內交流在刪除 Facebook 上流傳的喬·拜登“經過編輯”的視頻。這個文件「將審查與 Meta 平台內容操縱相關的問題以及公司有關虛假資訊的透明度政策,特別是在選舉期間»。
該委員會沒有提供有關視頻的詳細信息,但將做出的決定很可能會在 Facebook 上樹立先例,最重要的是提供一條明確的前進道路。事實上,該公司的政策在篡改視訊問題上相當模糊:深度造假通常是被禁止的……除非它們不被禁止!由於下屆美國大選的競選活動可能會被人工智慧產生的假影片淹沒,澄清這一點就顯得尤為重要。