ระบบนิเวศ Deepfake พัฒนาขึ้นจากแอป บริการต่างๆ ขณะที่การตรวจจับต้องต่อสู้เพื่อให้ก้าวทัน

Deepfakes เป็นหัวข้อของวันในอุตสาหกรรมไบโอเมตริกและการยืนยันตัวตน ซึ่งมีส่วนร่วมมากขึ้นในความพยายามระดับโลกในการตรวจจับ Deepfakes และป้องกันอันตรายร้ายแรงที่อาจเกิดขึ้นกับบุคคลและโครงสร้างทางสังคม การประชุมผู้เชี่ยวชาญจากภาคอุตสาหกรรมและภาครัฐจำนวนหนึ่งการตรวจจับการประชุมสุดยอด Deepfakesเป็นฟอรัมล่าสุดที่จะคอยดูเบื้องหลังเมื่อพูดถึงเรื่องนี้และวิธีที่โลกสามารถเตรียมพร้อมรับมือกับภัยคุกคามได้อย่างเพียงพอ

“นี่เป็นปัญหาที่ยากมาก” ผู้ร่วมอภิปราย Kay Chopard กรรมการบริหารของ The กล่าว- ปัญหานี้เกิดขึ้นทั่วโลกและครอบคลุมทุกอย่างตั้งแต่ศาลและโลกแห่งกลุ่มอาชญากร ดาราฮอลลีวูด ไปจนถึงชีวิตออนไลน์ของผู้หญิงและเด็กที่ตกเป็นเหยื่อของผู้ล่วงละเมิด

ในบรรดาหน่วยงานกำกับดูแล นักวิจัย และบริษัทเอกชน ความพยายามอย่างต่อเนื่องในการควบคุมการแพร่กระจายของอันตราย- แต่บ่อยครั้งที่ Deepfake จำเป็นต้องได้รับการแชร์เพียงช่วงเวลาสั้นๆ เพื่อเข้าถึงผู้คนจำนวนมาก และผลกระทบของมันสามารถสะท้อนกลับได้แม้ว่าจะถูกถอดออกไปแล้วก็ตาม ขณะเดียวกัน มาตรฐานและกฎหมายยังล้าหลังการพัฒนาเทคโนโลยีของ generative AI และเครื่องมืออื่นๆ สำหรับการสร้าง Deepfakes ที่มีความซับซ้อนมากขึ้นเรื่อยๆ

“เราต้องมีหนทางที่จะมารวมตัวกันจริงๆ” โชพาร์ดกล่าว “เราต้องหาทางตกลงกัน”

การหาความเห็นพ้องต้องกันในหัวข้อที่ซับซ้อนและมีชีวิตชีวาพอๆ กับการละเมิดแบบ Deepfake นั้นเป็นเรื่องยาก เงินและทรัพยากรที่จัดสรรไว้เพื่อการป้องกันและไม่สมส่วนกับการลงทุนในฝ่ายอาญา เมื่อเส้นโค้งขึ้นของ deepfakes ที่ปรากฏในชีวิตประจำวันเพิ่มขึ้น และเส้นโค้งด้านกฎระเบียบที่เกี่ยวข้องนั้นลาดลงช้ากว่ามาก ปัญหาจะกลายเป็นเรื่องเร่งด่วนมากขึ้นเท่านั้น

เสียงของผู้รอดชีวิตเน้นย้ำถึงความร้ายแรงของการคุกคามแบบ Deepfake

โจดี้ ลีดแฮม จากที่ลี้ภัยซึ่งช่วยเหลือผู้หญิงที่ถูกทารุณกรรมในครอบครัว นำเสนอความเป็นจริงของการพูดถึง "- ตัวอย่างไวรัส เช่น ภาพของสมเด็จพระสันตะปาปาที่สวมแจ็กเก็ตปักเป้าอาจถูกมองว่าไม่เป็นอันตราย แต่ลีดแฮมกล่าวว่า “96 เปอร์เซ็นต์ของ Deepfake เป็นสื่อลามก” และงานวิจัยบางชิ้นก็ชี้ให้เห็นถึงสิ่งเหล่านั้นเกือบทั้งหมดพรรณนาถึงผู้หญิง กล่าวคือ Deepfakes เป็นภัยคุกคามต่อสิทธิสตรีโดยเฉพาะ “เราไม่สามารถหลีกหนีหรือถอยห่างจากความจริงที่ว่าเรามองว่านี่เป็นปัญหาทางเพศ”

แพลตฟอร์มที่โฮสต์ Deepfakes มักจะทำให้ยากสำหรับเหยื่อที่จะลบเนื้อหาที่แสวงหาผลประโยชน์ออกไป นั่นเป็นปัญหาเฉพาะเมื่อเวลาเป็นสิ่งสำคัญลีดแฮมกล่าว Deepfake สามารถดำเนินการได้อย่างรวดเร็ว และแม้แต่การสัมผัสเพียงเล็กน้อยก็อาจสร้างความเสียหายต่อสุขภาพจิต ชื่อเสียง และชีวิตออนไลน์ของผู้รอดชีวิตได้ เมื่อถึงจุดนั้น “ม้าออกจากโรงนาแล้ว”

เจส โรส สมิธจากออฟคอมกล่าวว่าหน่วยงานกำกับดูแลการสื่อสารของสหราชอาณาจักรสังเกตเห็นความกังวลของสาธารณชนเกี่ยวกับ Deepfakes ที่เพิ่มขึ้นในกรณีที่มีการเผยแพร่เช่น- แต่ “ยังสังเกตเห็นด้วยว่าในขณะที่คดีที่รู้จักกันดีหลายคดีนำเสนอบุคคลสาธารณะ แต่ Deepfakes ก็เริ่มทำอันตรายร้ายแรงต่อบุคคลทั่วไปแล้ว” โดยส่วนใหญ่มีเนื้อหาเกี่ยวกับเรื่องเพศอย่างโจ่งแจ้ง

การกลั่นกรองเนื้อหา Deepfake ในระดับ 'ปัญหาสำคัญที่สำคัญ'

ปัญหาที่สำคัญของเวลายังนำไปใช้กับบริบททางสังคมในวงกว้างด้วย เช่น- อามิ กุมาร์ ซึ่งเป็นบริษัทของเขาContrails.aiทำงานในการเลือกตั้งอินเดียเมื่อเร็วๆ นี้ โดยตั้งข้อสังเกตว่าเนื่องจากผู้มีสิทธิเลือกตั้งรุ่นเยาว์จำนวนมากได้รับข่าวสารจากโซเชียลมีเดีย Deepfakes จึงกลายเป็นปัญหาทางการเมืองที่ใหญ่กว่ามาก ยิ่งไปกว่านั้น การแพร่กระจายของบริการ deepfakes-as-a-service กำลังสร้างขนาด และเนื้อหาปลอมจำนวนมากก็ท่วมท้นด้วยมาตรการกลั่นกรอง

“การกลั่นกรองเนื้อหาของ Deepfakes ในปริมาณมากถือเป็นประเด็นสำคัญ” เขากล่าว “เพราะว่าทันทีที่ไฟล์ถูกใช้ไป ผลกระทบก็เกิดขึ้น เมล็ดพันธุ์แห่งความคิดก็เข้าถึงจิตใจคุณแล้ว” สม่ำเสมอที่ถูกหักล้างก่อนการเลือกตั้งของอินเดีย คูมาร์กล่าวว่า “ยังคงเป็นประเด็นสนทนาในอินเดียส่วนใหญ่ ผลกระทบยังคงมีอยู่จนถึงทุกวันนี้”

การตรวจจับจะต้องเกิดขึ้นก่อนที่ Deepfake จะเข้าถึงดวงตานับแสน “ค่อนข้างมากในระดับที่ผู้ใช้อัปโหลด” แม้ว่าแพลตฟอร์มเนื้อหาสาธารณะจะสามารถควบคุมการแชร์เนื้อหาที่มีการปลอมแปลงได้ แต่แอปส่งข้อความส่วนตัวที่เข้ารหัสนั้นเป็นอีกเรื่องหนึ่ง

ปกป้องความสมบูรณ์ของเทคโนโลยีการประกันอายุ

ควบคู่ไปกับ Deepfakes ที่เลียนแบบหรือสร้างไบโอเมตริกใบหน้า มีการคุกคามจากตัวแทนเสียงที่เปิดใช้งาน AI และอื่น ๆ- Kay Chopard สังเกตเห็นความแพร่หลายที่เพิ่มขึ้นของสิ่งที่เรียกว่า "การโทรแบบปู่ย่าตายาย" ซึ่งใช้การโคลนเสียงเพื่อหลอกลวงผู้สูงอายุด้วยเงิน

ความหลากหลายและความซับซ้อนของระบบนิเวศ Deepfake จะเพิ่มขึ้นเมื่อเวลาผ่านไป เช่นเดียวกับความสามารถในการทำกำไร Ofcom ได้พัฒนาอนุกรมวิธานแบบไตรภาคีสำหรับ Deepfakes โดยจำแนกออกเป็นประเภทนั้น- Rose Smith กล่าวว่าการก่ออาชญากรรมเป็นตัวขับเคลื่อนที่ทรงพลังอย่างยิ่งในการฉ้อโกง Deepfake ที่สร้างรายได้เพิ่มมากขึ้น แต่ Deepfake ที่มีเนื้อหาทางเพศอย่างโจ่งแจ้งกลายเป็นเรื่องง่ายสำหรับทุกคนที่จะสร้างโดยใช้แอปที่เรียกว่า "nudify"

ในขณะเดียวกัน Iain Corby จากสมาคมผู้ให้บริการตรวจสอบอายุ () ชี้ให้เห็นว่าในขณะที่คนส่วนใหญ่เชื่อมโยงการรับประกันอายุกับงานดูแลเด็กให้พ้นจากพื้นที่จำกัด แต่ก็มีจุดประสงค์ตรงกันข้าม นั่นคือทำให้แน่ใจว่าผู้ใหญ่จะไม่แสร้งทำเป็นเด็กเพื่อหลอกล่อเด็กทางออนไลน์

ความรุนแรงอันน่าสยดสยองของภัยคุกคาม Deepfake ดังกล่าวเป็นส่วนหนึ่งของสิ่งที่ทำให้ AVPA เปิดตัว Project DefAI ซึ่งเป็นโครงการร่วมระหว่างสหราชอาณาจักรและสวิส ซึ่งได้รับทุนสนับสนุนจาก InnovateUK และ Innosuisse ซึ่งเกี่ยวข้องกับ IDIAP Research Lab, Age Check Certification Scheme และบริษัทสวิส Privately ในฐานะองค์กรอุตสาหกรรมที่เป็นตัวแทนของCorby กล่าวว่า "มีอยู่จริงสำหรับเราที่อุตสาหกรรมโดยรวมสามารถป้องกันการโจมตีที่ใช้เทคโนโลยีใหม่นี้ได้"

กฎหมายที่เกิดขึ้นใหม่เกี่ยวกับ AI ที่เป็นแพตช์บนดีฟเฟค

การพัฒนากฎหมายและมาตรฐานนั้นช้ากว่านวัตกรรมอยู่เสมอ แต่ก็มีความพยายามอย่างต่อเนื่องในการพยายามสร้างอุปสรรคทางกฎหมายเกี่ยวกับเศรษฐกิจที่ล้ำลึก ผู้ร่วมอภิปราย Felipe Romero-Moreno นักวิจัยจากมหาวิทยาลัย Hertfordshire สรุปโครงการริเริ่มที่สำคัญบางประการและสิ่งที่พวกเขาต้องการ

ที่พระราชบัญญัติความปลอดภัยออนไลน์ของสหราชอาณาจักรปี 2023, ที่ฉันมีพระราชบัญญัติหน่วยงานเฉพาะกิจ Deepfake ของสหรัฐฯ และโครงการระดับรัฐที่ได้รับการคัดเลือก ต่างก็มีเกณฑ์ความรับผิดชอบที่แตกต่างกันสำหรับแพลตฟอร์ม โดยพระราชบัญญัติ AI เป็นข้อกำหนดที่มีความต้องการมากที่สุดในแง่ของข้อกำหนดในการระบุและลบเนื้อหา Deepfake

ในบางประเด็นGDPRให้การป้องกันการปลอมแปลงโดยการใช้ข้อมูลส่วนบุคคล โดยเฉพาะอย่างยิ่งเมื่อใช้กับข้อมูลการฝึกอบรม แต่ยังไม่ครอบคลุมหรือเฉพาะเจาะจงเพียงพอที่จะเป็นเครื่องมือทางกฎหมายที่สำคัญ และกฎหมายคุ้มครองข้อมูลโดยทั่วไปยังไม่สอดคล้องอย่างเหมาะสมเพื่อตอบสนองภัยคุกคามแบบ Deepfake

ธรรมชาติของภัยคุกคามทั่วโลกเรียกร้องให้มีความพยายามข้ามพรมแดน

ประเด็นสำคัญร่วมกันในหมู่ผู้ร่วมอภิปรายคือความจำเป็นในการทำงานร่วมกัน ที่กว้างกว่าที่เราคิด Chopard กล่าว; “จะต้องอาศัยการทำงานข้ามพรมแดนจำนวนมาก ทุกคนคิดอย่างสร้างสรรค์มากขึ้น” เพื่อแก้ไขปัญหานี้ นักวิจัย ผู้กำหนดนโยบาย นักการศึกษา และองค์กรเอกชนล้วนมีบทบาท การแทรกแซงแต่ละอย่างอาจมีความเสี่ยงได้ การผสมผสานระหว่างการป้องกัน การฝัง การตรวจจับ และการบังคับใช้ก็อาจมีศักยภาพได้

ยังมีปัญหาใหญ่เกิดขึ้น ซึ่งแต่ละประเด็นนำมาซึ่งรอยย่นทางจริยธรรมแบบใหม่ และฝ่ายรับก็ไม่มีเวลานอกเวลา ผู้เชี่ยวชาญมีข้อเสนอแนะเกี่ยวกับวิธีการอยู่ในการแข่งขัน ตั้งแต่การลดความซับซ้อนของกระบวนการไปจนถึงการเพิ่มการลงทุน ไปจนถึงการเสนอสิ่งจูงใจให้กับนักแสดงที่แตกต่างกันในพื้นที่ นวัตกรรมกำลังเกิดขึ้น แต่ไม่มีกระสุนเงิน

Kumar แย้งว่าเนื่องจากระบบที่ปกติแล้วจะจัดเรียงข้อเท็จจริงที่ยอมรับจากนิยายที่ชั่วร้าย (เช่น สื่อแบบดั้งเดิม) ได้พังทลายลง และ Deepfake ก็หลั่งไหลเข้ามาในพื้นที่ออนไลน์อย่างรวดเร็วและรุนแรง สถานการณ์จึงต้องได้รับการดูแลอย่างใกล้ชิดในทันที และในขณะที่ Jodi Leedham ตั้งคำถามเชิงปรัชญาอันลึกซึ้งว่า “หากเราคิดย้อนกลับไปเมื่อทศวรรษที่แล้ว เราเคยจินตนาการไหมว่านี่คือจุดที่เทคโนโลยีจะนำเราไปสู่จุดนั้น” – ความจริงก็คือเราอยู่ที่นี่ และเราต้องการความช่วยเหลือ

“มีหลายสิ่งที่สามารถทำได้” เคย์ โชพาร์ดกล่าว “ผู้คนเต็มใจที่จะเผชิญกับความท้าทายที่จะสร้างความแตกต่าง”

หัวข้อบทความ

------