Deepfakes 是主題當日的生物辨識和身分驗證產業越來越多地參與全球檢測深度造假並防止其對個人和社會結構造成嚴重傷害的努力。會議召集多位行業和政府專家，檢測 Deepfakes 峰會是最新的論壇，可深入了解，以及世界如何做好充分準備應對威脅。
「這是一個非常困難的問題，」小組成員、執行董事凱·肖帕德 (Kay Chopard) 說。。這個問題是全球性的，涉及方方面面，從法院和有組織犯罪世界到好萊塢明星，再到受虐待者侵害的婦女和兒童的網路生活。
監管機構、研究人員和私人公司正在努力遏制有害物質的傳播。但通常情況下，深度造假只需要在短時間內分享即可傳播給許多人，即使在被刪除後，其影響也會產生迴響。同時，標準和立法落後於產生人工智慧和其他用於創建更複雜的深度贗品的工具的技術發展。
「我們確實必須想辦法走到一起，」蕭邦說。 “我們必須找到達成一致的方法。”
在像深度造假濫用這樣複雜且動態的議題上達成共識是很困難的。專門用於國防和國防的資金和資源與犯罪方面的投資不成比例。隨著日常生活中出現的深度造假的上升曲線上升，而隨之而來的監管曲線傾斜得更加緩慢，問題只會變得更加緊迫。
倖存者的聲音強調了 Deepfake 威脅的嚴重性
喬迪·利德姆避難所，該組織幫助遭受家庭虐待的婦女，闡述了“」。像教皇穿著羽絨服的照片這樣病毒式傳播的例子可能被認為是無害的。但是，Leedham 說，“96% 的深度造假都是色情內容。”一些研究表明幾乎所有這些描繪女性。也就是說，深度造假尤其是對婦女權利的威脅。 “我們無法逃避或迴避這樣一個事實：我們將其視為一個性別問題。”
託管深度假貨的平台通常會讓受害者很難刪除剝削性內容。利德姆說，當時間至關重要時，這是一個特殊的問題。深度假貨可以迅速傳播，即使是極少的曝光也會對倖存者的心理健康、聲譽和網路生活造成損害。那時，“馬已經離開了穀倉。”
傑西·羅斯·史密斯英國通信管理局表示，英國通訊監管機構注意到民眾對深度造假的擔憂與日俱增，例如。但是，它「也注意到，雖然許多知名案例都是以公眾人物為主角，但深度造假已經開始對普通人造成嚴重傷害」——主要是露骨的色情內容。
大規模 Deepfake 內容審核是“重大問題”
時間的關鍵問題也適用於更廣泛的社會背景，例如。阿米·庫馬爾，他的公司軌跡.ai參與最近印度選舉的研究人員指出，由於許多年輕選民從社群媒體獲取新聞，深度造假已成為更大的政治議題。此外，深度造假即服務的激增正在形成規模，而透過節制措施，假冒內容的氾濫正在氾濫。
「大規模深度偽造的內容審核是一個非常非常大的問題，」他說。 「因為一旦文件被消耗，影響就已經產生了。這個想法的種子已經到達你的腦海中。”甚至庫馬爾說，這些在印度大選前就被揭穿的「仍然是印度大部分地區的話題」。這種影響至今仍然存在。
檢測必須在深度偽造到達數十萬隻眼睛之前進行，「幾乎在用戶上傳它的水平上」。然而，雖然公共內容平台可以監管深度偽造內容的共享，但加密的私人通訊應用程式卻是另一回事。
捍衛年齡保證技術的完整性
與模仿或生成人臉生物辨識技術的 Deepfake 結合，人工智慧語音代理和其他技術也帶來了威脅。。凱·肖帕德 (Kay Chopard) 指出，所謂的「祖父母電話」越來越盛行，即利用聲音克隆來騙取老年人的錢財。
隨著時間的推移，深度偽造生態系統的多樣性和複雜性將會增加，其獲利能力也會增加。 Ofcom 制定了深度偽造品的三重分類法，將其分為以下幾類：。羅斯史密斯表示，有組織犯罪是利潤日益豐厚的深度造假詐欺的一個特別強大的推動因素，但任何人使用所謂的「裸體」應用程式創建露骨的深度造假已經變得更加容易。
同時，年齡驗證提供者協會的 Iain Corby（）指出，雖然大多數人將年齡保障與讓兒童遠離受限空間的工作聯繫在一起，但它也有相反的目的：確保成年人不會假裝成兒童來引誘孩子上網。
這種深度造假威脅的嚴重性促使 AVPA 推出 Project DefAI，這是由 InnovateUK 和 Innosuisse 資助的英國/瑞士聯合項目，該項目還涉及 IDIAP 研究實驗室、年齡檢查認證計劃和瑞士公司 Privately。作為代表行業的行業機構Corby 說：“整個行業能夠抵禦這項新技術發起的攻擊，這對我們來說至關重要。”
新興的人工智慧法律在深度造假問題上參差不齊
立法和標準的製定總是慢於創新，但人們一直在努力嘗試為深度造假經濟設置法律障礙。赫特福德郡大學研究員費利佩·羅梅羅-莫雷諾 (Felipe Romero-Moreno) 小組成員總結了一些主要舉措及其要求。
這2023 年英國線上安全法案， 這我已經採取行動、美國 Deepfake 工作小組和選定的國家級項目對平台都有不同的責任門檻，其中《人工智慧法案》對識別和刪除 Deepfake 內容的要求最為嚴格。
在某些方面，一般資料保護條例透過個人資訊（特別是應用於訓練資料時）提供針對深度偽造的保護。但它還不夠全面或具體，不足以成為關鍵的法律工具，而且資料保護立法總體上仍然沒有適當調整以應對深度造假威脅。
威脅的全球性需要跨境努力
小組成員的一個共同主題是協作的必要性。這蕭邦說，它的範圍比我們想像的更廣泛； 「這需要大量的跨境工作，每個人都需要更有創意地思考」才能解決這個問題。研究人員、政策制定者、教育工作者和私人企業都可以發揮作用。儘管個人幹預措施可能很脆弱，但預防、嵌入、檢測、執行的組合可能是有效的。
然而，存在著巨大的問題，每個問題都會帶來新的道德問題——而且辯護沒有暫停的機會。專家們就如何留在競爭中提出了建議，從簡化流程到增加投資，再到為該領域的不同參與者提供激勵。創新正在發生。但沒有靈丹妙藥。
庫馬爾認為，由於傳統上將公認事實與邪惡小說（即傳統媒體）進行分類的系統已被破壞，並且深度偽造品不斷快速而猛烈地充斥網絡空間，因此需要立即密切關注這種情況。儘管喬迪·利德姆 (Jodi Leedham) 提出了一個深刻的哲學問題，但“如果我們回想十年前，我們是否設想過技術將引領我們走向何方？” – 事實是，我們在這裡。我們需要幫助。
「有些事情是可以做的，」凱·蕭邦 (Kay Chopard) 說。 “只有人們願意接受挑戰，才能帶來改變。”
文章主題
|||||
