隨著新的DeepFake工具變得越來越容易訪問，破壞信任和安全性的風險越來越大。即使具有最低技能的網絡黑客也可以使用這些工具來執行騙局。
隨著AI生成的音頻和視頻內容在社交媒體上的擴散，公司現在正在尋求將DeepFake檢測模型納入其安全基礎架構。這一點尤其重要，因為合成內容甚至可以繞過生物識別面部驗證。
現實防守者已經與呼吸道和Elevenlab進行了合作，目的是增強其檢測平台。趨勢微觀已實施了其趨勢願景一個平台的升級，以解決Genai DeepFake含量。最後，Hiya收購了Loccus.ai，目的是加強其語音安全平台。
現實防守者合作夥伴打擊音頻深擊
現實防守者與之合作重工人增強音頻深擊檢測模型。通過這種合作，Reality Defender的客戶將可以訪問與Reality Defender的檢測平台集成的Respeecher的高級生成AI功能。
共同開發的系統將通過識別和挫敗音頻威脅來應對AI生成的內容的挑戰。根據該公司的說法，Respeecher的音頻處理模型會產生合成語音，從而提高檢測平台的有效性。
首席執行官兼聯合創始人Alex Serdiuk表示：“我們的專有音頻處理模型將顯著提高現實辯護人檢測平台的準確性和有效性，從而為AI生成的威脅提供無與倫比的保護水平。”
為了進一步加強音頻深擊檢測模型，現實防御者與Elevenlabs。除了維護音頻深擊外，兩家公司還努力加強AI工具的安全性。
公司報導說，ElevenLab正在貢獻其專有模型和方法，當該模型和方法與現實防御者的多模型檢測方法結合使用時，可以增強我們的檢測模型的可靠性。
“與技術公司，學術界和政策制定者合作開發可靠的AI內容檢測方法是我們安全工作的重要支柱，” Elevenlabs AI安全負責人Aleksandra Pedraszewska說。
今年早些時候，現實防守者擴展通過增加對西班牙語和葡萄牙音頻文件的支持，它的功能是開發多語言DeepFake檢測模型的努力的一部分。此外，該公司增強了其視頻深擊檢測模型隨著引入一個名為“指導”的新的基於變壓器的視頻模型，該模型強調了基於真實樣本的面部表示。
趨勢微型升級趨勢願景一個以防止深擊騙局
趨勢微觀已經對其趨勢願景一個平台提出了改進，以保護個人消費者免受AI驅動的模仿和騙局的影響。目前，消費者可以訪問DeepFake檢查員，並將很快將其集成到趨勢視覺One平台中。
根據公司的說法，深層檢測系統通過合併用戶行為分析，超出了傳統的圖像噪聲分析和顏色檢測。一旦檢測到了深擊，該平台就會通知企業安全團隊，以主動應對未來的攻擊。
“借助我們在趨勢視覺One平台內新宣布的尖端功能，我們正處於為企業客戶打擊這些威脅的最前沿，以檢測深擊和其他形式的AI欺詐。”
最新功能趨勢視覺一平台可以使員工的Genai訪問和使用範圍進行集中管理。該平台還提供了檢查提示的工具，以防止數據洩漏和惡意注射。
這些更新在實時視頻對話中提供了實時驗證，提醒用戶潛在的欺騙。一項趨勢微觀調查顯示，大約36％的消費者經歷了涉及深擊的騙局嘗試。
Hiya獲取loccus.ai進行AI語音檢測系統
Hiya，語音安全服務的提供商已獲得loccus.ai，一家專門研究DeepFake語音檢測系統的公司。此舉旨在通過合併AI生成的語音檢測功能來增強HIYA語音安全平台。
收購後，產品產品將被更名為Hiya AI語音檢測，這將補充現有的HIYA自適應AI欺詐預防系統。該公司指出，AI語音檢測軟件能夠以1.5秒的音頻識別AI生成的聲音。
此外，對於更廣泛的部署，可以將DeepFake檢測系統集成到個人通信應用程序，新聞和社交媒體內容，視頻會議和聯繫中心平台中。
Loccus.ai首席執行官兼創始人Manel Terraz說：“加入HIYA可以通過行業領先的語音安全性來幫助更多的客戶來利用Loccus.ai語音檢測，因為我們擴展到整個HIYA網絡的500百萬全球用戶。”
