不久前，深度偽造檢測還守衛著互聯網的一個小角落，現在已經爆發為一場名副其實的混戰，因為欺詐者會發送一連串的信息進入競技場，刺激了越來越多的生物識別領域的捍衛者的出現。
最新出現在幕後的是DefAI項目，該公司將目光堅定地瞄準了對年齡保證行業構成威脅的深度偽造品。用摔角術語來說，DefAI 是一個“穩定”：圍繞一組共同目標和共同對手團結起來的實體聯盟。
運行該項目的名字對於業內任何人來說都是熟悉的部門：英國的年齡檢查認證計劃（），最近選擇運行 ，專注於人工智能的瑞士研究機構；年齡驗證提供者協會（)，代表獨立的年齡保證提供者；洛桑的年齡保證供應商，這是該項目的帶頭人。
根據其網站，該聯盟由 Innosuisse 和 Innovate UK 共同資助，旨在“調查年齡驗證方面的演示和注入攻擊的危險、可以針對這些攻擊建立的可能防禦措施，以及該行業評估其抵禦此類攻擊的準備情況所需的評估和標準化方法。”
法規、GenAI 威脅同步增加，推動檢測需求
在電子郵件採訪中生物識別更新DefAI 項目發言人 George Billinge 表示，深度造假對生物識別年齡保證技術構成了獨特的威脅。
“這個領域之前的工作重點是他說：“這個項目借鑒了已經完成的研究深度偽造對面部識別技術的威脅的工作，但針對年齡保證的背景對其進行了調整和開發。”
Billinge，Ofcom 前政策經理，現經營該諮詢公司照明科技，指出全球立法激增，以規範在線服務，特別是針對年輕用戶的在線服務，同時又不損害他們享有良好在線生活的權利。結合可用於欺詐的人工智能技術的出現和持續發展，需要有效的合規性和客戶體驗方面的工具都在增加。
DefAI 項目認為（AE）技術是創建“年齡感知”互聯網難題的關鍵部分。由於深度偽造可以被部署為用於規避年齡估計技術的演示或註入攻擊，Privately 及其合作夥伴將該問題視為年齡保證行業的生存問題之一。
“檢測複雜的攻擊，例如 3D 面具、部分或越來越真實的攻擊Billinge 說，“這些問題具有挑戰性，並對人臉識別系統的可靠性構成嚴重威脅。現有文獻中的大多數演示攻擊檢測 (PAD) 方法都試圖解決有限數量的演示攻擊工具和可見光譜圖像的問題。”
同時，通過劫持數字源，直接向生物識別系統提供偽造信息。 Billinge 表示：“如果可以實時生成攻擊，那麼活性檢測方法可能根本無法應對此類攻擊。”他解釋說，典型的攻擊分類很難推廣到注入攻擊，而且訓練往往不足。
Deepfake 競賽“一場與不良演員的持續不斷的貓鼠遊戲”
為了應對這一對他們生計的潛在威脅，DefAI 採取了警惕樂觀的態度。 Billinge 表示，這是基於應用於該領域的兩個重要假設。一、“沒有什麼是不可能執行的”。第二，“新的攻擊媒介將會出現，它們可以從我們開發的任何防禦機制中學習。”
“旨在解決網絡危害的解決方案的開發人員一直在與不良行為者進行貓捉老鼠的遊戲，試圖識別趨勢並實時做出反應，”比林格說。 “與此同時，我們必須嚴格確保我們用於研發活動的數據的來源和處理符合道德規範，符合——同時與在這方面顧忌較少的演員競爭。 ”
那麼，DefAI 旨在深入探討目前最有可能用於針對生物特徵年齡估計技術的攻擊媒介是什麼類型的問題？找到答案將意味著計算各種攻擊的成本，收集已經發生的攻擊的證據，並為整體的年齡估計開闢更明確的空間。景觀。
該聯盟的執行時間並不長：該項目將於 2025 年夏季結束。 Billinge 表示，到那時，Privately 應該將先進的演示和注入攻擊防禦集成到他們的產品中，由 Ididap 提供研究支持，並由 ACCS 評估有效性。最後，AVPA 將製作並與其成員分享一份報告，概述最佳實踐和指南應對不斷發生的深度偽造攻擊。
文章主題
||||||||||
