เช่นเดียวกับ uroboros กลืนหางของมัน AI ยังคงวงจรของการให้กำเนิดเครื่องมือตรวจจับและตรวจจับ Deepfakeเพื่อหยุดมัน ผลิตภัณฑ์ใหม่เพื่อตั้งค่าสถานะเนื้อหา Deepfake จะเปิดตัวก่อนการเลือกตั้งประธานาธิบดีสหรัฐในเดือนพฤศจิกายนเมตาได้จัดทำชุดโมเดล AI แบบสาธารณะเพื่อเร่งการพัฒนา AIตราประทับความไว้วางใจมีสิทธิบัตรชั่วคราวสำหรับการตรวจจับการโจมตีการฉีด สื่อลึกและ LatticeFlow AI มีแนวทางใหม่ และGoogleตอนนี้ให้คุณโทรหา Deepfakes บน YouTube
Meta เปิดตัวเครื่องมือวัดลายน้ำเสียงที่รีเฟรช
การวิจัย AI พื้นฐานของ Meta (ยุติธรรม) ทีมกำลังเปิดตัวใหม่โมเดล AIรวมถึงสิ่งที่เรียกว่า "เทคนิคการลายน้ำเสียงครั้งแรกที่ออกแบบมาโดยเฉพาะสำหรับการตรวจจับคำพูดที่สร้างขึ้นโดยเฉพาะ"
ในการแถลงข่าว Meta กล่าวว่าการปล่อยแบบจำลองมีวัตถุประสงค์เพื่อ“ เร่งการวิจัยในอนาคตและอนุญาตให้ผู้อื่นคิดค้นและใช้ AI ในระดับ- มันเชื่อว่านวัตกรรมอย่างรวดเร็วทำให้ความร่วมมือกับชุมชน AI ทั่วโลกมีความสำคัญมากกว่าที่เคย
“ เราปล่อยโมเดลห้ารุ่นต่อสาธารณชนรวมถึงโมเดลการสร้างภาพและข้อความเป็นแบบข้อความแบบจำลองการทำนายแบบหลายท็อกและเทคนิคในการตรวจจับคำพูดที่สร้างขึ้น” โพสต์บนเว็บไซต์ของพวกเขากล่าว“ โดยการแบ่งปันงานวิจัยนี้ต่อสาธารณะเราหวังว่าจะสร้างแรงบันดาลใจการทำซ้ำและช่วยให้ AI ก้าวหน้าในทางที่รับผิดชอบในที่สุด”
รูปแบบการตรวจจับการพูดแบบ Ai-Generated เป็นการเปิดตัวใหม่ของ AudioSeal ซึ่งเป็นเครื่องมือลายน้ำเสียง AudioSeal ใช้วิธีการตรวจจับที่แปลเป็นภาษาท้องถิ่นเพื่อระบุกลุ่ม AI-Generated ภายในตัวอย่างเสียงที่ยาวขึ้น ตัวอย่างเช่นมันสามารถใช้ในการตรวจจับเสียงปลอมที่ฝังอยู่ในการสนทนาที่บันทึกไว้หรือพอดคาสต์
Meta กำลังปล่อยเสียงภายใต้ใบอนุญาตเชิงพาณิชย์“ เพื่อช่วยป้องกันการใช้งานในทางที่ผิดเครื่องมือ AI แบบกำเนิด-
สิทธิบัตรความน่าเชื่อถือครอบคลุมการตรวจจับการโจมตีด้วยการฉีด Deepfake
ตราประทับความไว้วางใจได้ประกาศสิทธิบัตรชั่วคราวสำหรับเครื่องมือ AI เพื่อตอบโต้การโจมตีการฉีด Deepfake ข่าวประชาสัมพันธ์จาก บริษัท กล่าวว่าสิทธิบัตรชั่วคราว #63/662,575 ยื่นต่อสำนักงานสิทธิบัตรและเครื่องหมายการค้าของสหรัฐอเมริกาครอบคลุมวิธีการใหม่ในการตรวจจับการโจมตีการฉีดในกระบวนการตรวจสอบความถูกต้องทางชีวภาพรวมถึงการฉีดของภาพและวิดีโอ Deepfakeเข้าสู่สตรีมข้อมูล
สังเกตว่าตราประทับความน่าเชื่อถือได้นำไปใช้แล้ว“ จำนวนของเทคโนโลยีการตรวจจับ” หัวหน้าเจ้าหน้าที่วิทยาศาสตร์ดร. นอร์แมนโปห์กล่าวว่าเทคนิคการฉ้อโกงยังคงพัฒนาอย่างต่อเนื่องซึ่งหมายถึงความเสี่ยงต่อการเติบโต
“ ขณะนี้มีการโจมตีทุกวันหลายพันล้านครั้งที่เกิดขึ้นจากการโจมตีของการฉีดจำนวนมากขึ้นโดยใช้สิ่งประดิษฐ์ของแท้ที่ถูกจับจากบริบทรวมถึงภาพและวิดีโอปลอมที่ลึกล้ำ” เขากล่าว “ เมื่อมีการใช้สิ่งประดิษฐ์ของแท้จากบริบทพวกเขาอาจสามารถผ่านการทดสอบการตรวจจับการตรวจจับความเป็นมรดกได้เทคโนโลยีการตรวจจับการโจมตีการนำเสนอล่าสุดนี้การโจมตีแบบฉีดโดยไม่คำนึงถึงสิ่งประดิษฐ์ที่ใช้”
LatticeFlow AI แอมป์ตรวจจับ Deepfake ก่อนการเลือกตั้งสหรัฐ
Deepfake Detection เป็น“ เครื่องมือใหม่ที่สำคัญ” สำหรับนักข่าวกล่าวว่าการเปิดตัวจากLatticeFlow AIประกาศการเปิดตัวผลิตภัณฑ์ LatticeFlow AI Audio ซึ่งตรวจพบข้อผิดพลาดของโมเดลในแอปพลิเคชัน Audio AI บริษัท กำลังขว้างเครื่องมือเป็นสิ่งที่ไม่ควรพลาดสำหรับทุกคนที่แปลงการเลือกตั้งกลางของสหรัฐอเมริกาแคมเปญ - ดินแดนสุกสำหรับการโจมตีแบบลึก
“ เราเชื่อว่าไม่มีสถานที่สำหรับ Deepfakes ในสังคมพลเรือนและมีจริยธรรม” ดร. Petar Tsankov ซีอีโอของ LatticeFlow AI กล่าว -AI จริยธรรมปลอดภัยและน่าเชื่อถือเป็นค่าพื้นฐานของ บริษัท ของเรา - และทำไมเราต้องการช่วยจัดการกับการตรวจจับ Deepfakes ก่อนการเลือกตั้งปี 2567”
การเปิดตัวยังเสนอราคา Chris O'Brien ซึ่งครอบคลุม Silicon Valley สำหรับSan Jose Mercuryข่าวและลอสแองเจลีสไทมส์การพูดว่าซอฟต์แวร์ตรวจจับ Deepfake เช่น LatticeFlow AI เป็น“ ขั้นตอนสำคัญต่อการรักษาความซื่อสัตย์และความถูกต้องของข้อมูลที่เรามักจะพึ่งพาในฐานะนักข่าว”
สื่อลึกจะได้รับชุดข้อมูลสำหรับเครื่องมือเสียง AI ที่เฉพาะเจาะจง
ล่าสุดบล็อกจากสื่อลึกที่มีชื่อว่า“ ยุคใหม่ในการประเมินการตรวจจับ Deepfake” ได้เริ่มต้นความคิดริเริ่มที่จะคิดใหม่ว่าวิธีการตรวจจับและทดสอบ Deepfake ได้รับการประเมินอย่างไรโดยอยู่ที่ขอบด้านนอกของเส้นโค้งเทคโนโลยีและจัดลำดับความสำคัญการใช้จริยธรรม
“ โดยการฝังการพิจารณาทางจริยธรรมในทุกแง่มุมของงานของเราสื่อลึกมีจุดมุ่งหมายเพื่อกำหนดมาตรฐานใหม่สำหรับการวิจัยที่รับผิดชอบในด้านการตรวจจับเสียง Deepfake” มันกล่าวว่าชุดการตรวจสอบของมันครอบคลุมตัวอย่างเสียงปลอมมากกว่า 100,000 ตัวอย่างและตัวอย่างเสียงที่สร้างขึ้น คุณลักษณะที่สำคัญคือการรวมชุดย่อยการตรวจสอบความถูกต้องเฉพาะสำหรับเฉพาะเครื่องกำเนิดเสียง Deepfakeที่อยู่อาศัยประมาณ 9,000 ตัวอย่างต่อชุดย่อย รูปแบบการโคลนเสียงประสาทอัลกอริทึมการแปลงเสียงที่มีสถาปัตยกรรมการเรียนรู้ลึกและอัลกอริทึมที่เป็นกรรมสิทธิ์ที่ บริษัท เทคโนโลยีรายใหญ่ใช้อยู่ในรูปแบบที่ครอบคลุมในชุดย่อย
ผู้พิทักษ์ความเป็นจริงเพิ่งเปิดตัวรุ่นของตัวเองในการตรวจจับ Deepfake โดยมีการขยายตัวเพื่อรวมการตรวจจับ deepfake หลายภาษาในภาษาสเปนและโปรตุเกส
YouTube ขยายคำขอความเป็นส่วนตัวเพื่อรวม fakery ที่สร้างขึ้นโดย Ai
บล็อกจาก YouTube กล่าวว่าแพลตฟอร์มการแชร์วิดีโอกำลังขยายกระบวนการร้องขอความเป็นส่วนตัวเพื่อให้ผู้ใช้สามารถขอการลบ“ AI-Generated หรือสังเคราะห์อื่น ๆ หรืออื่น ๆเนื้อหาที่เปลี่ยนแปลงนั่นจำลองใบหน้าหรือเสียงของพวกเขา”
YouTube จะประเมินคำขอเพื่อลบก่อนถามว่า“เนื้อหามีการเปลี่ยนแปลงหรือสังเคราะห์และอาจเข้าใจผิดว่าเป็นของจริงไม่ว่าบุคคลที่ทำคำขอจะสามารถระบุตัวตนได้หรือไม่ว่าเนื้อหาจะล้อเลียนหรือเสียดสีเมื่อเกี่ยวข้องกับตัวเลขที่รู้จักกันดี”
โพสต์กล่าวว่าการย้ายสอดคล้องกับแนวทางของ Google ในการสร้างนวัตกรรม AI ที่รับผิดชอบ
หัวข้อบทความ
การตรวจจับไบโอเมตริกซ์-ไบโอเมตริกซ์-สื่อลึก-การตรวจจับ deepfake-เฟลค์-AI Generative-LatticeFlow AI-เมตา-เสียงสังเคราะห์-ตราประทับความไว้วางใจ
