通常，在討論使用生成AI工具創建的深層蛋糕所帶來的風險時，警告是關於您如何被假老闆或政治家欺騙的。但是可以說，一個更大而險惡的威脅是身份盜用 - 也就是說，當您是深擊時會發生什麼。雖然騙局電話可以空存儲銀行帳戶，但在色情，暴力或羞辱的內容中使用一個人的形象可能會留下更深的心理傷痕，尤其是對於女性而言。
一個新文章從艾達·洛夫拉斯學院（Ada Lovelace Institute）來看，從文化和社會的角度看深擊，而不是僅僅是一種財務威脅。
朱莉婭·薩克曼（Julia Smakman）寫道：“ 2024年7月，西班牙少年在產生了同學的裸露之後被緩刑。” “據報導，這些描繪的女孩遭受焦慮發作的痛苦，並害怕挺身而出，擔心他們會被指責為這些圖像。在韓國，少女是針對的。並描述了類似的痛苦。 ”
這個問題已經很糟糕了，它將變得更糟。 Smakman援引了不可思議的山谷，指出當今一代深擊的局限性和贈品。 “到目前為止，這些技術障礙為防止完全數字模擬提供了薄薄的保護層。”
為了搭配奇特的山谷線程，如果當前的深擊是我們的Polar Express - 早期嘗試利用創建真實化身的技術，那麼新技術將使Deepfakes與當今最好的CGI技術相提並論。 “Smakman指出：“ 2024年12月，Google偷偷窺視了其新型號我懂了顯示它已經在短視頻上表現出色。該演示可以瞥見不久的將來，在這種情況下，對普通人幾乎不可能區分真實的視頻和人造視頻。 ”
“你不應該控制自己的出現嗎？”
考慮到多少互聯網，幾乎不需要想像力就可以看到自己的臉在視頻中如何偷走和令人信服地放在另一個身體上，這可能會對年輕女性造成災難性的後果。 2019年報告據估計，在網上所有Deepfakes中有96％是色情的，而99％的女性涉及不同意使用相似性的女性。
Smakman寫道：“隨著AI高級視頻的產生，Deepfake色情製品的危害將從靜態圖像發展到無法區分的視頻'證據'的私密時刻的證據，從未發生過，從而造成了持久的心理創傷和聲譽損害。” “如果歷史有什麼需要的，這將不成比例地傷害婦女和女孩。”
考慮如何將非自願圖像用於勒索。或者如何增強“復仇色情”和兒童性虐待材料的演變。不良演員通常的移動速度要比那些建築防禦和製定法規的速度快得多。這導致了Smakman所說的“目前的保障措施完全不足”。
讀者生物識別更新將知道目前正在付出多少努力。但是Smakman指出，迄今為止的解決方案做得非常薄弱，尤其是在控制自己的模型時。 “即使擁有大量資源和公眾對安全的承諾，微軟等科技巨頭也無法防止產生通過自己的模型。 ”
她同時說：“目前的法律和政策工具不足以保護人們免受影響其尊嚴的危害。儘管世界各地的政府已經開始關注深層，但他們仍然缺乏，有效控制它們的權利和機制。 ”
Smakman說，為武器化提供足夠的防禦能力危害技術意味著要在兩個關鍵問題上採取快速行動。首先，開發人員應限制其係統的可用性，並向他們提供“僅在適當使用的特定條件下批准的企業，例如負責的AI許可實踐。”
“總的來說，技術公司應限制模型的發布及其生成人員視頻的能力，直到監管機構和外部審計師為濫用並驗證其充分性而建立了保障措施。”
其次，“一旦建立了這些保障措施並被證明是可靠和有效的，決策者應向科技公司施加壓力才能發布模型。”
擬議的解決方案不會激發極大的信心。它一次又一次地展示了行業以自我規範的情況，以及矽谷的胃口特別是對規模的胃口。 Smakman承認她的答案是不完美的。 “但是它們是使科技行業負責並減輕AI視頻發電帶來的大量風險的步驟。”
研究人員發現，在網上未受保護的大量deepfake“裸體”圖像
對於那些認為風險被誇大的人：VPNMentor報告調查網絡安全研究員耶利米·福勒（Jeremiah Fowler）違反了一個非通信的數據庫，該數據庫包含AI-NOMIS屬於Gennomis的93,485張圖像和.JSON文件 - “韓國的AI公司，總部位於韓國的AI公司，可提供面部交換，並提供成人內容以及可以購買或出售的圖像。”
文章說47.8 GB數據庫未受到密碼保護或，其中包括“許多色情圖像，包括似乎令人不安的年輕人的刻畫”和“包括兒童的名人的形象，包括阿麗亞娜·格蘭德（Ariana Grande），卡戴珊（Kardashians），碧昂絲（Kardashians），碧昂絲（Beyoncé），米歇爾·奧巴馬（Michelle Obama），克里斯汀·斯圖爾特（Kristen Stewart）等。”幾乎所有圖像都是明確的，並描繪了成人內容。
Gennomis是一個工具的一個很好的例子，其開發人員在詢問時不太可能行使禮貌。該平台使文本對圖像提示可以創建不受限制的圖像，AI角色，還有更多。它支持45多種不同的藝術風格，包括現實，動漫，卡通，復古和賽博朋克，“允許用戶根據特定的美學偏好量身定制其圖像創作。”
福勒說，儘管他沒有看到任何個人識別信息（PII）或用戶數據，但“這是對用戶可能濫用這項技術的警鐘，以及開發人員必須如何做更多的事情來保護自己和他人。就不受限制的圖像產生進行了更大的對話。 ”
持有犯罪者責任將提供指導牙齒：福勒
幾乎不只是gennomis提供的從文本提示中創建色情圖像。有很多網站提供“裸體”服務，這些服務在性明確的情況下產生了人們的圖像。福勒說：“任何提供能夠在沒有個人知識和同意的情況下面對s縮圖像或身體的服務都會構成嚴重的隱私，道德和法律風險。這些圖像可能是高度現實的，並且可能會羞辱個人在不同意的情況下以這種方式描繪的個人。”
福勒將其稱為“野外西方”這是一款高風險的遊戲，其中芯片是人類的聲譽，有時甚至是生活。他指出，有很多案例表明，個人和年輕人因跨越嘗試而自殺。
急需更強的檢測機制和嚴格的驗證要求。福勒寫道：“在一個完美的世界中，人工智能提供商應該擁有嚴格的護欄和保護措施，以防止濫用。”再次押注了弱希望，那些製作“裸體”應用程序的人擔心濫用，而不是依靠它。 “確定肇事者並讓他們對他們創建的內容負責，這應該使服務提供商快速消除有害內容。”
法律正在移動，即使不夠快。美國“擊倒行為”，”旨在將非同意親密圖像的分佈定為定為定為犯罪，已經通過了參議院，並正在等待眾議院的行動。 “ 2024年10月，韓國法院將十年徒刑的徒刑判處犯罪犯罪的肇事者。2025年3月，美國的一名老師因使用人工智能製作學生的假期色情視頻而被捕。”福勒（Fowler）看到該行業趨向於更有效地執行可能已經存在的準則，但只是為了裝飾。
“至少在紙上，嚴格禁止兒童和任何其他非法活動的明確圖像。準則還指出，發布此類內容將立即終止帳戶終止和潛在的法律行動。”
在這種情況下，Gennomis似乎自願離開了。福勒（Fowler）發出負責任的披露通知幾天后，Gennomis和AI-NoMis的網站脫機並刪除了數據庫。
政府喚醒了深層威脅的程度
新澤西州州長辦公室的釋放宣布簽署A3540/S2544這項法律“為欺騙性音頻或視覺媒體的生產和傳播（通常被稱為“深擊”的生產和傳播）“建立民事和刑事處罰。 ”
該法律將“製作或分發欺騙性的音頻或視覺媒體促進額外的犯罪活動”歸類為第三級犯罪，但仍被監禁和最高30,000美元的罰款。
州長菲爾·墨菲（Phil Murphy）說：“事實證明，它是一種強大的工具，必須負責任地使用它。我的政府專注於打擊錯誤信息和確保媒體完整性。我們與Deepfake圖像的受害者站在一起，並將繼續優先考慮所有新澤西人的安全和福祉。 ”
簽名也存在弗朗西斯卡·瑪尼（Francesca Mani），一個高中生的同齡人創造並共享了她的明確AI生成的圖像，促使她成為AI監管的倡導者。參議院，新澤西州反對性侵犯聯盟（NJCASA）和新澤西理工學院的代表也表示支持。
本週，在密西西比州就職大學的一項就職大學中，深層餐廳也是前列和中心。發布說喬丹新聞倡導與創新中心主持了首張活動，“解決社交媒體和人工智能對民主的影響”，召集了頂級記者，研究人員和商業領袖，討論審查制度，媒體素養，道德和AI與美國法律的交集。
新聞學院和新媒體學院院長安德里亞·希克森（Andrea Hickerson）說，儘管這次活動召集了有不同政治意見的人們，“我們都可以同意謊言是不好的。”
文章主題
|||||||
