European Cyber Week กำลังจบลงที่แรนส์ บริตตานี และกำลังออกมาพร้อมกับ metamodel ใหม่สำหรับการตรวจจับภาพที่ AI สร้างขึ้น
บริษัทฝรั่งเศสรายนี้รับความท้าทายที่จัดโดยสำนักงานนวัตกรรมด้านกลาโหม (AID) ของฝรั่งเศส โดยมอบหมายให้บริษัทต่างๆ ตรวจจับภาพที่สร้างโดยแพลตฟอร์ม AI เช่น Midjourney, DALL-E และ Firefly ตามการเปิดเผย ทีมงานของ cortAIx ซึ่งเป็นตัวเร่ง AI ของ Thales ใช้โอกาสนี้ในการพัฒนาเมตาโมเดลที่สามารถตรวจจับได้-
metamodel คือการรวมตัวของโมเดล ซึ่งแต่ละโมเดลจะกำหนดคะแนนความถูกต้องให้กับรูปภาพเพื่อจัดประเภทว่าเป็นของจริงหรือ- เทคนิคการเรียนรู้ของเครื่อง แผนผังการตัดสินใจ และการประเมินจุดแข็งและจุดอ่อนของแต่ละปัจจัยในการวิเคราะห์ความถูกต้อง
โมเดลแบบรวมประกอบด้วยวิธี Contrastive Language-Image Pre-training (CLIP) ซึ่งเปรียบเทียบรูปภาพกับคำอธิบายที่เป็นข้อความเพื่อค้นหาความไม่สอดคล้องกัน วิธีการแพร่กระจายสัญญาณรบกวน (DFN) ซึ่งใช้แบบจำลองการแพร่กระจายสำหรับจากการประมาณปริมาณสัญญาณรบกวนที่จำเป็นในการทำให้เกิด "ภาพหลอน" ในภาพ และการแปลงโคไซน์แบบแยกส่วน (DCT) ซึ่งจะวิเคราะห์ความถี่เชิงพื้นที่ในภาพเพื่อตรวจจับสิ่งแปลกปลอมที่ซ่อนอยู่
Christophe Meyer ผู้เชี่ยวชาญอาวุโสในด้าน AI และ CTO ของ cortAIx กล่าวว่า “การรวมวิธีการต่างๆ เข้าด้วยกันโดยใช้โครงข่ายประสาทเทียม การตรวจจับสัญญาณรบกวน และการวิเคราะห์ความถี่เชิงพื้นที่ช่วยให้เราปกป้องโซลูชันที่มีจำนวนเพิ่มมากขึ้นซึ่งต้องการ-
cortAIx ซึ่งเป็นเครื่องเร่งความเร็วของ Thales มีนักวิจัยและวิศวกร AI มากกว่า 600 คน โดยมีโรงงานในมอนทรีออลและปารีส
การตรวจจับ Deepfake มาจากภายในเบราว์เซอร์: Surf
แนวทางใหม่ในการตรวจจับ Deepfake ยังคงเกิดขึ้นในแต่ละวันท่องความปลอดภัยซึ่งเสนอ "Zero Trust Browser" ได้เปิดตัวเบต้าเพื่อให้ลูกค้าทดสอบที่ขับเคลื่อนด้วยโครงข่ายประสาทเทียมการรวมเบราว์เซอร์การตรวจจับ
การเปิดตัวกล่าวว่าเครื่องมือตรวจจับ Deepwater deepfake ถูกสร้างขึ้นในเบราว์เซอร์ Surf Security Enterprise Zero-Trust และ “สามารถตรวจจับด้วยความแม่นยำสูงสุด 98 เปอร์เซ็นต์ว่าบุคคลที่คุณกำลังโต้ตอบด้วยนั้นเป็นมนุษย์จริงหรือเลียนแบบ AI โดยแจ้งเตือนผู้ใช้ถึงศักยภาพภายในไม่กี่วินาที”
บริษัทซึ่งตั้งอยู่ในสหราชอาณาจักรและสหรัฐอเมริกา อ้างอิงการวิจัยที่แสดงให้เห็นว่า “การหลอกลวงแบบ deepfake เติบโตขึ้น 303 เปอร์เซ็นต์ในสหรัฐอเมริกาเมื่อเทียบเป็นรายปี และเร็วกว่าในประเทศต่างๆ เช่น โปรตุเกส (1,700 เปอร์เซ็นต์) จีน (2,800 เปอร์เซ็นต์) ), สิงคโปร์ (1,100 เปอร์เซ็นต์) และอื่นๆ อีกมากมาย”
การเติบโตดังกล่าวไม่น่าแปลกใจเลยเมื่อพิจารณาว่า Deepfakes ใหม่เกิดขึ้นได้อย่างไร และพวกมันกลายเป็นเรื่องง่ายและราคาถูกในการสร้างได้รวดเร็วเพียงใด ความเสี่ยงแพร่กระจายอย่างกว้างขวางและหลากหลาย: แก๊งอาชญากรที่ใช้ประโยชน์จากการปลอมแปลงเพื่อหลอกลวงความมั่นใจ เหล่านักเลงสังเคราะห์ที่หยาบกระด้างและล่อเหยื่อเข้ามา- ความเสียหายต่อชื่อเสียง ข้อมูลสูญหาย วิ่งฝ่าฝืนหน่วยงานกำกับดูแล เทรนด์การทำงานจากที่บ้านและแพลตฟอร์ม SaaS ได้ขับเคลื่อนความต้องการที่เพิ่มมากขึ้น
Surf ใช้การตรวจจับ Deepfake AI “เกรดทหาร” ที่ช่วยให้ผู้ใช้สามารถตรวจสอบเสียงได้ด้วยการคลิกปุ่มเพียงปุ่มเดียว ใช้งานได้กับแหล่งเสียงใดๆ ภายในเบราว์เซอร์ รวมถึงวิดีโอออนไลน์หรือซอฟต์แวร์การสื่อสาร เช่น Slack, Zoom, Google Chat, Microsoft Teams และ WhatsApp
ระบบจะขึ้นอยู่กับเทคโนโลยีเกิดใหม่เช่นแบบจำลองพื้นที่รัฐซึ่งสามารถ "ตรวจจับ Deepfakes ในภาษาและสำเนียงโดยการสร้างแบบจำลองความสัมพันธ์ที่น่าจะเป็นระหว่างเฟรมเสียงเพื่อแสดงความไม่สอดคล้องกัน" โครงข่ายประสาทเทียมได้รับการฝึกฝนเกี่ยวกับ Deepfakes ที่สร้างขึ้นโดยใช้ AI ชั้นนำมีคุณสมบัติการลดเสียงรบกวนพื้นหลังในตัวเพื่อล้างเสียงก่อนการประมวลผล และสามารถตัดสินใจได้ภายในเวลาไม่ถึงสองวินาที
Ziv Yankowitz ซีทีโอของ Surf Security กล่าวว่าเครื่องตรวจจับ Deepwater Deepfake เป็น “เครื่องแรกที่ใช้งานได้อย่างแท้จริงในการป้องกัน Deepfake แบบเรียลไทม์” Surf กำลังวางแผนที่จะบูรณาการในอนาคต.
Reality Defender ได้รับการสนับสนุนทางการเงินจาก Booz Allen Ventures
การเปิดตัวระบุว่าบริษัทตรวจจับ Deepfakeเป็นผู้รับผลประโยชน์จาก "การลงทุนเชิงกลยุทธ์" จาก Booz Allen Ventures, LLC ซึ่งเป็นบริษัทร่วมทุนของบริษัทผู้รับเหมาข่าวกรองทางทหารบูซ อัลเลน แฮมิลตัน-
“ความเป็นผู้นำของ Booz Allen ในด้านความปลอดภัยของ AI และความเชี่ยวชาญเชิงลึกในการสนับสนุนภารกิจที่สำคัญจะช่วยให้ Reality Defender สามารถขยายผลกระทบของเราในเวลาที่มีการรักษาความปลอดภัยการสื่อสารกับเป็นสิ่งสำคัญยิ่ง” Ben Colman ซีอีโอของ Reality Defender กล่าว
Booz Allen ให้บริการ AI และความปลอดภัยทางไซเบอร์แก่รัฐบาลกลางของสหรัฐอเมริกา Matt Keating หัวหน้าฝ่ายรักษาความปลอดภัย AI กล่าวว่า "แบบจำลอง AI ที่ซับซ้อนกำลังถูกนำมาใช้เพื่อจัดการและหลอกลวงมากขึ้นเรื่อยๆ ซึ่งก่อให้เกิดความเสี่ยงที่แท้จริงตั้งแต่ในสนามรบและห้องปฏิบัติการวิจัยไปจนถึงและชุมชนทั่วประเทศ เพื่อต่อสู้กับภัยคุกคามเหล่านี้ เราจำเป็นต้องมีเครื่องมือในการตรวจสอบและรักษาความปลอดภัยเนื้อหาต่อเนื่องหลายรูปแบบ เช่น วิดีโอ รูปภาพ การบันทึกเสียง และการโทร Reality Defender ตอบสนองความต้องการนี้”
สำหรับ Booz Allen การลงทุนเป็นส่วนหนึ่งของพอร์ตโฟลิโอขนาดใหญ่ ซึ่งรวมถึงเทคโนโลยีเชิงพาณิชย์แบบใช้สองทาง เช่น(AI ที่รับผิดชอบ), HiddenLayer (AI ที่ปลอดภัย), LatentAI (การบีบอัดข้อมูล AI) และอื่นๆ
หัวข้อบทความ
-------
