不久前，Deepfake 偵測還守護著網路的一個小角落，現在已經爆發為一場名副其實的混戰，因為詐騙者會發送大量進入競技場，刺激了越來越多的生物辨識領域的捍衛者的出現。
最新出現在幕後的是DefAI項目，該公司將目光堅定地瞄準了對年齡保證行業構成威脅的深度偽造品。用摔角術語來說，DefAI 是一個「穩定」：圍繞一組共同目標和共同對手團結起來的實體聯盟。
運行該專案的名字對於業內任何人來說都是熟悉的部門：英國的年齡檢查認證計劃（），最近選擇運行 ，專注於人工智慧的瑞士研究機構；年齡驗證提供者協會（)，代表獨立的年齡保證提供者；洛桑的年齡保證供應商，這是該項目的領導者。
根據其網站，該聯盟由 Innosuisse 和 Innovate UK 共同資助，旨在「調查年齡驗證中演示和注入攻擊的危險、可以針對這些攻擊建立的可能防禦措施，以及行業需要的評估和標準化方法。評估其抵禦此類攻擊的準備情況。
法規、GenAI 威脅同步增加，推動偵測需求
在電子郵件訪談中生物辨識更新DefAI 計畫發言人 George Billinge 表示，深度造假對生物辨識年齡保證技術構成了獨特的威脅。
「這個領域之前的工作重點是技術，但不是年齡保證，」他說。 “這個項目借鑒了已經完成的研究深度偽造對面部識別技術的威脅的工作，但針對年齡保證的背景對其進行了調整和開發。”
Billinge，Ofcom 前政策經理，現經營該顧問公司照明科技，指出全球立法激增，以監管線上服務，特別是針對年輕用戶的線上服務，同時又不損害他們享有良好線上生活的權利。結合可用於詐欺的人工智慧技術的出現和持續發展，需要有效的合規性和客戶體驗方面的工具都在增加。
DefAI 計畫相信（AE）技術是創造「年齡感知」網路難題的關鍵部分。由於深度偽造可以部署為用於規避年齡估計技術的演示或註入攻擊，Privately 及其合作夥伴將該問題視為年齡保證行業的生存問題之一。
「偵測複雜的攻擊，例如 3D 面具、部分或越來越真實的攻擊具有挑戰性，並對人臉辨識系統的可靠性構成嚴重威脅。 “主流文獻中的大多數演示攻擊檢測（PAD）方法都試圖解決有限數量的演示攻擊工具和可見光譜圖像的問題。”
同時，透過劫持數位來源，直接向生物辨識系統提供偽造資訊。 Billinge 表示：「如果可以即時產生攻擊，活性偵測方法可能根本無法應對此類攻擊。」他解釋說，典型的攻擊分類很難推廣到注入攻擊，而且訓練往往不足。
Deepfake 競賽“一場與不良演員之間持續不斷的貓鼠遊戲”
為了應對這一對他們生計的潛在威脅，DefAI 採取了警惕樂觀的態度。 Billinge 表示，這是基於應用於該領域的兩個重要假設。一、「沒有什麼是不可能執行的」。第二，“新的攻擊媒介將會出現，它們可以從我們開發的任何防禦機制中學習。”
「旨在解決網路危害的解決方案的開發人員一直在與不良行為者進行貓捉老鼠的遊戲，試圖識別趨勢並即時做出反應，」比林格說。 「同時，我們必須嚴格確保我們用於研發活動的資料的來源和處理符合道德規範，符合——同時與在這方面顧忌較少的演員競爭。
那麼，DefAI 旨在深入探討目前最有可能用於針對生物特徵年齡估計技術的攻擊媒介是什麼類型的問題？找到答案將意味著計算各種攻擊的成本，收集已經發生的攻擊的證據，並為整體的年齡估計開闢更明確的空間。景觀。
該聯盟的執行時間並不長：該專案將於2025 年夏季結束。有效性。最後，AVPA 將製作並與其成員分享一份報告，概述最佳實踐和指南應對不斷發生的深度偽造攻擊。
文章主題
||||||||||
