歐洲網路週即將在雷恩、布列塔尼和留下了一個新的元模型來檢測人工智慧產生的圖像。
這家法國公司接受了法國國防創新局 (AID) 組織的一項挑戰，要求該公司檢測由 Midjourney、DALL-E 和 Firefly 等人工智慧平台創建的影像。根據發布的消息，泰雷茲人工智慧加速器 cortAIx 的團隊利用這個機會開發了一種能夠檢測。
元模型是模型的聚合，每個模型都會為圖像分配真實性分數，以將其分類為真實或。機器學習技術、決策樹以及每個模型優缺點的評估都會影響真實性分析。
聚合模型包括對比語言圖像預訓練（CLIP）方法，該方法將圖像與文字描述進行比較以發現不一致之處；擴散噪聲特徵 (DFN) 方法，該方法使用擴散模型基於對在影像中引起「幻覺」所需的雜訊量的估計；離散餘弦變換 (DCT)，它分析影像中的空間頻率以檢測隱藏的偽影。
人工智慧高級專家兼 cortAIx 技術長 Christophe Meyer 表示：「使用神經網路、雜訊檢測和空間頻率分析聚合多種方法，有助於我們更好地保護越來越多的解決方案」。
泰雷茲加速器 cortAIx 擁有 600 多名人工智慧研究人員和工程師，在蒙特婁和巴黎設有設施。
Deepfake 偵測來自瀏覽器內部：Surf
深度偽造檢測的新方法日益湧現。衝浪安全提供“零信任瀏覽器”，已啟動測試版運行，讓客戶測試其神經網路驅動的檢測瀏覽器整合。
一份新聞稿稱，Deepwater Deepfake 偵測器工具內建於Surf Security Enterprise 零信任瀏覽器中，「可以以高達98% 的準確度檢測與您互動的人是真人還是AI 模仿者，提醒用戶潛在的潛在威脅」。幾秒鐘之內。
這家總部位於英國和美國的公司引用的研究表明，「美國的深度造假詐騙同比增長了 303%，在葡萄牙（1700%）、中國（2800%）等國家甚至更快。 ）、新加坡（1100% ）以及無數其他國家。
考慮到深度贗品的新穎程度以及它們的製造變得簡單且廉價的速度有多快，這種增長並不令人意外。風險是廣泛且多方面的：犯罪集團利用深度造假進行信任詐騙；放蕩但合成的小販引誘受害者;名譽受損；資料遺失；與監管機構發生衝突。在家工作的趨勢和 SaaS 平台推動了更大的需求。
Surf 使用「軍用級」AI Deepfake 偵測，讓使用者只需點擊按鈕即可驗證音訊。它適用於瀏覽器內的任何音訊來源，包括線上視訊或通訊軟體，例如 Slack、Zoom、Google Chat、Microsoft Teams 和 WhatsApp。
該系統基於新興技術，例如狀態空間模型，它可以“通過對音頻幀之間的概率關係進行建模來檢測跨語言和口音的深度偽造，以顯示不一致之處。”其神經網路接受了使用頂級人工智慧創建的深度偽造品的訓練平台具有整合的背景降噪功能，可在處理前清理音頻，並且可以在不到兩秒的時間內做出決定。
Surf Security 首席技術長 Ziv Yankowitz 表示，Deepwater 深度造假探測器是「第一個真正可用的即時深度造假防禦系統」。 Surf 正計劃整合將來。
Reality Defender 獲得博思艾倫創投公司的財務支持
Deepfake 檢測公司發布的新聞稿稱是博思艾倫創投有限責任公司「戰略投資」的受益者，博思艾倫創投有限公司是軍事情報承包商的企業創投部門博思艾倫漢密爾頓。
「博思艾倫在人工智慧安全領域的領導地位以及在支援關鍵任務方面的深厚專業知識將使 Reality Defender 在確保通訊安全的同時擴大我們的影響力是最重要的，」Reality Defender 執行長 Ben Colman 說。
博思艾倫為美國聯邦政府提供人工智慧和網路安全服務。其人工智慧安全主管 Matt Keating表示：「複雜的人工智慧模型越來越多地被用來操縱和欺騙，構成了從戰場和研究實驗室到和全國各地的社區。為了應對這些威脅，我們需要工具來驗證和保護多模式內容，例如視訊、影像、錄音和電話。 Reality Defender 滿足了這一需求。
對博思艾倫來說，這項投資是更大投資組合的一部分，該投資組合還包括軍民兩用商業技術，例如（負責任的人工智慧）、HiddenLayer（安全人工智慧）、LatentAI（人工智慧資料壓縮）等。
文章主題
|||||||
