Deepfakes在全球佔有很大的風險，尤其是在非自願性色情案例中。這個令人震驚的問題的原因之一是AI工具的可訪問性，例如DALL-E和穩定的擴散，這使具有有限技術知識的個人能夠創造出深層效果。
通過人工智能的力量產生深擊是使用算法修改的圖像，視頻或錄音，以看起來真實的方式替換個人的圖像來代替個人。
一項2019年的研究，名為“深料狀態”揭示了96％的deepfake根據業務內部人士的報告，視頻是色情的，影響了全球數百萬。最新的深層爭議是泰勒·斯威夫特（Taylor Swift）的深粉色情圖像一月份在名人色情網站上確定。流行巨星的追隨者和技術領導者譴責了這一事件，並促使政府採取行動解決對AI風險的不斷增加的問題。
此外，深擊可能會錯誤地犯罪，影響公眾輿論或勒索。隨著AI技術的前進並變得容易獲得，深層爆炸變得更加危險，並且識別更具挑戰性。
遏制有害深果的努力
解決這個問題，拜登給藥認可數字水印，而Google和Meta則實施“數字憑據”來標記AI生成的內容，增強公眾意識並促進更容易刪除。
Openai正在開發檢測工具，包括視覺水印和隱藏的元數據，與內容出處和真實性（C2PA）標準的聯盟保持一致。此外，旨在驗證內容起源的感官等專用平台，提供了附加的保護層。
諸如Nightshade之類的新興防禦工具旨在保護圖像操縱。它們添加了不可察覺的信號，這些信號在保留了人類觀眾的預期外觀的同時破壞了AI處理。
立法努力正在進行中，至少有10個州實施了針對深層訴訟的法律保護。聯邦通信委員會禁止AI生成的機器人呼叫，而兩黨聯邦法案，《違背法》，為性侵害的受害者尋求民事補救措施。
TechTimes以前報導了提出的修改據報導，聯邦貿易委員會（FTC）的Deepfake禁令涉及迫在眉睫的禁令，旨在向所有消費者擴大覆蓋範圍，以免AI產生的模仿。現有禁令主要針對企業和政府機構。 FTC承認，由於對模仿欺詐的投訴數量越來越多，因此需要更廣泛的保護。
除了擬議的保護範圍外，FTC正在考慮使AI平台生成文本，視頻或圖像以提供已知或懷疑被用來通過假冒欺騙客戶的產品或服務的違法行為。
對當前的政府和業務模仿規則的關鍵更新為打擊騙子的藝術家提供了更強大的工具。該規則使直接針對Con Artists的聯邦法院案件從其政府或商業模仿計劃中收取收益。
Deepfake受害者可以做什麼
儘管有立法努力，但圍繞言論自由的辯論使這個問題變得複雜，尤其是在英國，在線安全行為將Deepfake色情的分佈定為犯罪，而不是其創作。將Deepfake創造定為犯罪是一種威懾作用，強調引入障礙和法律威懾以減少故意創造和分配深擊的重要性。
目前，Deepfake色情的受害者可以選擇擊倒進攻AI生成的內容。為了報告DeepFake色情，受害者或其代表可以利用Google的刪除請求頁，這是當前提供此服務的唯一平台。
雖然生成的AI啟用了既有正面和負面後果的簡便內容，但受影響的人都可以從搜尋引擎. Google已致力於實施其他保障措施，以解決其平台上的問題。
