美國歌手泰勒絲(Taylor Swift) 是色情Deepfake 的受害者：上週，在該平台採取第一步行動之前，人工智慧生成的以她為主角的性愛圖像在馬斯克(Elon Musk) 的社群網路X 上大量傳播，持續了幾個小時。以下是您需要記住的四點。
這是第一次色情深度偽造粉絲和政界人士對此也有很多評論：上週，由人工智慧生成的歌手泰勒絲的性愛圖像在伊隆馬斯克的社交網路 X 上大量傳播。該平台將在 17 小時內做出反應，然後採取一項不尋常的措施：暫時阻止在平台上搜尋泰勒絲 (Taylor Swift) 的名字。
由人工智慧從頭開始創建的泰勒絲（Taylor Swift）色情圖片的傳播並不令人意外。這位被《時代》雜誌評選為2023年度人物的美國人已經成為了受害者。但自從面向大眾推出人工智慧工具以來，許多人敲響了警鐘。去年三月，來自監護人寫道：問題不是我們是否會出現色情深度假貨，而是何時我們會出現色情深度假貨。她本可以補充說：問題不是我們是否會看到，而是我們何時會看到社交網絡努力應對色情深度假貨的擴散。
1. 一張人工智慧產生的圖像在停止之前被瀏覽了 4700 萬次
因為就是這樣。 2024年1月下旬，標誌性案件發生了。據報道，上週，人工智慧生成的幾張以歌手泰勒絲為主角的色情圖片在 Telegram 上發布，然後最終出現在 X 上 404媒體。 與迄今為止觀察到的情況相反，這些深度偽造的作者並沒有將泰勒絲的臉放在X級電影女演員的臉上，他們本來會使用免費的微軟工具，但這些工具的用途已被轉移到製作來自A的圖像。
這些圖片在幾個小時內流傳，直到其中一張圖片的瀏覽量達到 4,700 萬次，分享次數達到 24,000 次。 「Taylor Swift AI」隨後成為該平台的主要話題。隨後，她的粉絲群進行了反擊，大量發布了這位歌手的真實視頻，從而使色情圖片被淹沒在海量之中。
2. X 反應…17 小時後
直到17小時後，X才終於反應過來。平台一般使用條件明確禁止“經人為修改、可能誤導他人的內容」。但整個問題在於這些規則的應用。因為一方面，平台具有主辦單位的地位。它對其用戶發布的內容不承擔任何責任，並受到言論自由原則的保護。但另一方面，該平台應該刪除違反其一般條件並已被舉報的內容。問題在於它與這些圖像有關。
週五，該社交網路開始刪除首先分發這些圖像的帳戶。第二天，他採取了一個不尋常的步驟：封鎖與這位歌手有關的搜尋。如果您在社交網路上搜尋此內容，您將收到以下訊息：“發生錯誤。嘗試重新載入頁面 »。這項被描述為「臨時」的措施是為了避免有爭議的影像傳播。現在，他們有點難找到了，這位記者解釋道 福布斯，它批評了 X 試圖解決問題的方式。同樣的故事也出現在 可混搭。 «讓 Swift 的名字無法追蹤表明 X 不知道如何處理其平台上大量的偽造圖像和視頻», 寫給我們的同事。
上週五，X已經在平台上宣稱「我X 嚴格禁止發布未經同意的裸露影像，我們對此類內容採取零容忍政策。我們的團隊積極刪除所有已識別的圖像，並對發布這些圖像的帳戶採取適當的行動」。該社群網路也宣布已聘請專門負責打擊兒童色情製品的版主，該版主將駐紮在德州奧斯汀。
https://twitter.com/Safety/status/1750765055380263272?ref_src=twsrc%5Etfw
3.白宮介入
此案引發了白宮的反應，白宮表示對這些假影像的傳播感到震驚。發言人 Karine Jean-Pierre 回憶說，社群網路必須審查其平台上播放的內容。“可悲的是，我們常常知道，缺乏執法會對婦女和女孩產生不成比例的影響，她們是網路騷擾的主要目標”，她補充道。後者提醒了社交網絡的責任，社交網絡有“在執行自己的規則以防止此類錯誤訊息的傳播方面可以發揮重要作用»。 «正在發生的事情非常令人震驚。因此，我們將盡我們所能來解決這個問題。“，她補充道。
https://twitter.com/PressSec/status/1751012521589313808
這個問題能否透過一項解決社群媒體上人工智慧濫用問題的法律來解決？這是民主黨國會議員約瑟夫·莫雷爾的想法，他的法案《防止親密圖像深度造假法案》目前正在眾議院司法委員會討論。因為在美國，聯邦層級沒有任何法律禁止這種由人工智慧產生的假影片或圖像。約瑟夫·莫雷爾希望填補這個空白，他想要“的未經當事人同意，分享經過數位修改的色情影像”，一項聯邦犯罪，可判處監禁和罰款。他也希望受害者能夠將肇事者繩之以法。
對於在他的 X 帳戶上發言的政客來說，“人工智慧生成的泰勒絲露骨圖像的傳播令人震驚——可悲的是，這種情況每天都發生在世界各地的女性身上……」。事實上，明星並不是這類形象的唯一受害者。
4.「匿名」人士也是色情深度假貨的受害者
去年十月，新澤西州的一所高中連續幾天成為頭條新聞。青少年用人工智慧產生了他們（女）同學的裸體版本。一名受害者的母親解釋說，這是一場可能永遠不會結束的真正的噩夢：“我很害怕這件事會如何浮現。我女兒有一個光明的未來，沒有人能保證這不會影響她的工作、學業或社交生活»，她感嘆道。
這種情況遠遠不限於美國。去年 9 月，在西班牙，大約 30 名 11 至 17 歲的年輕女孩也成為深度造假的受害者：據報道，年輕人在社群網路上傳播自己的裸照。英國廣播公司。在法國，這種情況是可能發生的。但 ” 我們在民事和刑事層面都擁有相當發達的法律武器庫»，回憶Arnaud Touati，公司合夥人話題標籤倡導者接受採訪01網。
最近，旨在保護和監管數位空間的法律（SREN）對這些措施進行了補充。現在傳播色情深度偽造品將被處以最高兩年監禁併罰款 6 萬歐元。 “此外，我們還製造了一種加重情節的情況”，阿諾圖阿蒂 (Arnaud Touati) 強調:「如果該出版物發生在線上公共通訊服務（例如社交網絡，編者註）上，則該罪行將被判處三年監禁和 75,000 歐元的罰款。”
