歐洲網絡週即將在雷恩、布列塔尼和留下了一個新的元模型來檢測人工智能生成的圖像。
這家法國公司接受了法國國防創新局 (AID) 組織的一項挑戰，要求公司檢測由 Midjourney、DALL-E 和 Firefly 等人工智能平台創建的圖像。根據發布的消息，泰雷茲人工智能加速器 cortAIx 的團隊利用這個機會開發了一種能夠檢測。
元模型是模型的聚合，每個模型都會為圖像分配真實性分數，以將其分類為真實或。機器學習技術、決策樹以及每個模型優缺點的評估都會影響真實性分析。
聚合模型包括對比語言圖像預訓練（CLIP）方法，該方法將圖像與文本描述進行比較以發現不一致之處；擴散噪聲特徵 (DFN) 方法，該方法使用擴散模型基於對在圖像中引起“幻覺”所需的噪聲量的估計；離散餘弦變換 (DCT)，它分析圖像中的空間頻率以檢測隱藏的偽影。
人工智能高級專家兼 cortAIx 首席技術官 Christophe Meyer 表示：“使用神經網絡、噪聲檢測和空間頻率分析聚合多種方法，有助於我們更好地保護越來越多的解決方案”。
泰雷茲加速器 cortAIx 擁有 600 多名人工智能研究人員和工程師，在蒙特利爾和巴黎設有設施。
Deepfake 檢測來自瀏覽器內部：Surf
深度偽造檢測的新方法日益湧現。衝浪安全提供“零信任瀏覽器”，已啟動測試版運行，讓客戶測試其神經網絡驅動的檢測瀏覽器集成。
一份新聞稿稱，Deepwater Deepfake 檢測器工具內置於 Surf Security Enterprise 零信任瀏覽器中，“可以以高達 98% 的準確度檢測與您交互的人是真人還是 AI 模仿者，提醒用戶潛在的潛在威脅”。幾秒鐘之內。 ”
這家總部位於英國和美國的公司引用的研究表明，“美國的深度造假詐騙同比增長了 303%，在葡萄牙（1700%）、中國（2800%）、新加坡（1100%）等國家甚至更快。”
考慮到深度贗品的新穎程度以及它們的製造變得簡單且廉價的速度有多快，這種增長並不令人意外。風險是廣泛且多方面的：犯罪團伙利用深度造假進行信任詐騙；放蕩但合成的小販引誘受害者;名譽損害；數據丟失；與監管機構發生衝突。在家工作的趨勢和 SaaS 平台推動了更大的需求。
Surf 使用“軍用級”AI Deepfake 檢測，讓用戶只需單擊按鈕即可驗證音頻。它適用於瀏覽器內的任何音頻源，包括在線視頻或通信軟件，例如 Slack、Zoom、Google Chat、Microsoft Teams 和 WhatsApp。
該系統基於新興技術，例如狀態空間模型，它可以“通過對音頻幀之間的概率關係進行建模來檢測跨語言和口音的深度偽造，以顯示不一致之處。”其神經網絡接受了使用頂級人工智能創建的深度偽造品的訓練平台具有集成的背景降噪功能，可在處理前清理音頻，並可以在不到兩秒的時間內做出決定。
Surf Security 首席技術官 Ziv Yankowitz 表示，Deepwater 深度造假探測器是“第一個真正可用的實時深度造假防禦系統”。 Surf 正計劃整合將來。
Reality Defender 獲得博思艾倫風險投資公司的財務支持
Deepfake 檢測公司發布的一份新聞稿稱是博思艾倫風險投資有限責任公司“戰略投資”的受益者，博思艾倫風險投資有限責任公司是軍事情報承包商的企業風險投資部門博思艾倫漢密爾頓。
“博思艾倫在人工智能安全領域的領導地位以及在支持關鍵任務方面的深厚專業知識將使 Reality Defender 在確保通信安全的同時擴大我們的影響力是最重要的，”Reality Defender 首席執行官 Ben Colman 說道。
博思艾倫為美國聯邦政府提供人工智能和網絡安全服務。其人工智能安全主管馬特·基廷（Matt Keating）表示：“複雜的人工智能模型越來越多地被用來操縱和欺騙，構成了從戰場和研究實驗室到和全國各地的社區。為了應對這些威脅，我們需要工具來驗證和保護多模式內容，例如視頻、圖像、錄音和電話。 Reality Defender 滿足了這一需求。 ”
對於博思艾倫來說，這項投資是更大投資組合的一部分，該投資組合還包括軍民兩用商業技術，例如（負責任的人工智能）、HiddenLayer（安全人工智能）、LatentAI（人工智能數據壓縮）等。
文章主題
|||||||
