隨著研究人員和開發人員將欺詐防護工具和功能推向新領域，欺詐已成為生物識別安全領域面臨的最新技術挑戰。但成熟的威脅也意味著需要成熟的市場反應，並且作為生成性的隨著生物識別、數字身份驗證和活體檢測領域公司的不斷發展，其形式越來越複雜，其主張正開始成熟，成為利潤豐厚的領域。
美國國家標準技術研究院（美國國家標準技術研究所）經常為最佳實踐設定基準，並且隨著其新的美國的推出人工智能安全研究所其目標是引領有關適用於私營和公共部門的人工智能工具和應用程序標準化的全球討論。Nextgov/FCW 上的一篇文章稱，其他綜合生成的內容將成為特別關注的焦點。
該研究所是在喬·拜登總統上任後於上個月成立的。行政命令關於人工智能。主任伊麗莎白·凱利 (Elizabeth Kelly) 表示，NIST“對於將其定位為世界領先的安全研究所感到非常興奮”。其支柱平衡問題和解決方案，包括測試和評估、安全協議以及人工智能生成內容的指導。
該研究所的更大目標之一是發展國際參與與其他國家。
“我們安全研究所正在與我們所有的盟友和合作夥伴密切合作——包括日本和英國等已經建立安全研究所的國家，以及那些處於早期階段正在考慮建立安全研究所的國家，”凱利說。該文件的兩個重點領域將是創建“可互操作指南”，為私營部門公司創造公平的競爭環境，以及合作推進人工智能背後的科學。
“我們正在解決很多問題，例如，‘水印應該是什麼樣子？’ '哪些風險緩解措施真正有效？哪些測試效果最好？ ——都是存在懸而未決問題的領域，”凱利說。 “通過集中我們的資源並密切合作，我認為我們可以取得更多進展。”
Mitre 開設政府人工智能測試和實驗設施
凱利在 Mitre 新的人工智能保證和發現實驗室的開幕式上發表了講話。是一家政府下屬的非營利諮詢公司，服務於國家安全、航空、衛生和網絡安全領域，將測試聯邦政府機構使用的人工智能係統中的安全漏洞和其他風險。根據彭博社 BNN機器人工程師 Miles Thompson 將領導該實驗室，該實驗室位於弗吉尼亞州麥克萊恩的 Mitre 總部。 Mitre 的一份新聞稿稱，該設施提供“可配置的空間，用於模擬環境中的風險發現、人工智能紅隊、大型語言模型評估、人機交互實驗和保障計劃開發。”
Mitre 高級副總裁 Cedric Sims 表示，“對於和私營公司，這個新實驗室提供客觀、獨立的分析，以補充和驗證他們自己對人工智能係統的測試和評估。 ”
Deepfakes 將英國反欺詐行業估值推至 10 億英鎊
英國數字身份安全公司的新號碼ID 地穴全球表明 Deepfake 技術的快速崛起推動了欺詐檢測軟件行業增長 200%，使其成為一個價值 10 億英鎊的行業。
根據該公司的一份新聞稿，數據顯示，網絡深度造假的數量每六個月翻一番，助長了錯誤信息、虛假信息和網絡欺詐的浪潮，令人擔憂。世界各地。目前，用於檢測和防範人工智能和深度學習算法創建的深度造假視頻、音頻或圖像的工具投入了 11 億英鎊（約合 14 億美元），這表明響應呈上升趨勢，這種趨勢已經持續了幾年，而且沒有任何減弱的跡象。
ID Crypt Global 自己的解決方案，即真實媒體保護計劃 (AMP)，專注於為記者和媒體機構驗證內容，以便標記那些被不良行為者操縱用於欺詐目的或。
該公司首席執行官勞倫·威爾遜·史密斯 (Lauren Wilson-Smith) 表示：“生活在一個我們不再能夠相信所看到的任何事物的世界裡，確實存在一些險惡和令人不安的事情。” “這種不確定性會滋生恐懼，而恐懼又會滋生陰謀和騷亂。值得慶幸的是，有一些才華橫溢的人和組織夜以繼日地工作，為人們提供工具，使他們能夠快速發現假貨並最大程度地減少虛假信息的傳播，我們非常自豪能夠成為這些公司中的一員。”
文章主題
||||||||
