Deepfake: จะตรวจจับภาพที่สร้างโดย AI ได้อย่างไร?

เราได้ยินเรื่องต่างๆ บ่อยขึ้นเรื่อยๆล้ำลึก- เนื้อหานี้สร้างโดยอัลกอริธึมทำให้หัวข้อข่าวและสร้างหัวข้อข่าวในสื่อเป็นประจำ เมื่อเร็วๆ นี้ เราได้เรียนรู้ว่าบริษัทในฮ่องกงมีสูญเสียเงินหลายล้านดอลลาร์ไปกับเทคโนโลยี Deepfake-

แต่ถึงแม้จะมีทุกอย่างแล้ว คุณยังไม่รู้ว่า Deepfakes คืออะไร? คุณมาถูกที่แล้วเพื่อค้นหาข้อมูลเพิ่มเติมและเรียนรู้ทุกสิ่งเกี่ยวกับเนื้อหาที่สร้างโดยซอฟต์แวร์ เพื่อวิเคราะห์ประเด็นนี้ เราได้รวบรวมความคิดเห็นของผู้เชี่ยวชาญ: Eny Sauvêtre ผู้ร่วมก่อตั้ง BRAIN Cybersecurity Awareness ซึ่งเป็นบริษัทสัญชาติฝรั่งเศสที่เชี่ยวชาญด้านการรับรู้ด้านความปลอดภัยทางไซเบอร์

อ่านเพิ่มเติม:Taylor Swift ตกเป็นเหยื่อของภาพลามกอนาจาร – เราอธิบายข้อโต้แย้งนี้

ดีพเฟคคืออะไร?

โดยสรุปแล้ว Deepfake ก็คือเนื้อหาวิดีโอ รูปภาพ หรือเสียงที่สร้างโดยปัญญาประดิษฐ์ซึ่งเลียนแบบคนจริง ชื่อนี้ผสมผสานระหว่าง "การเรียนรู้เชิงลึก" ซึ่งเป็นสาขาสำคัญของ AI และ "ของปลอม" การเรียนรู้เชิงลึกทำให้ระบบ AI สามารถเลียนแบบพฤติกรรมที่ซับซ้อนของมนุษย์ เช่น คำพูดหรือการแสดงออกทางสีหน้า โดยดึงข้อมูลจำนวนมหาศาลโดยไม่ต้องอาศัยความช่วยเหลือจากโปรแกรมเมอร์ เราพบว่าการดำเนินการที่คล้ายกันเป็นหัวใจสำคัญของโมเดลทางภาษา เช่น GPT จาก OpenAI

ด้วยการเพิ่มขึ้นของ generative AI ผู้ใช้อินเทอร์เน็ตจึงกลายเป็นเรื่องง่ายมากขึ้นในการสร้างภาพบุคลิกภาพ คนที่คุณรัก หรือคนแปลกหน้า บนเว็บมีเครื่องมือที่ใช้งานง่ายมากมายที่ให้คุณโคลนเสียงของใครบางคน เลียนแบบใบหน้าของบุคคล หรือสร้างภาพทางการแพทย์

อันตรายจากการดีปเฟค

ด้วยดีพเฟค อาชญากรไซเบอร์จึงมีอาวุธอีกหนึ่งอย่างในคลังแสงของพวกเขา มันเป็นเครื่องมือที่น่าเกรงขามในบริบทของการดำเนินงานตามวิศวกรรมสังคม- การรุกประเภทนี้แสวงหาประโยชน์จากจุดอ่อนของมนุษย์มากกว่าข้อบกพร่องในระบบคอมพิวเตอร์ ในบริบทนี้ Deepfake ทำให้สามารถใช้ประโยชน์จากอารมณ์ความรู้สึกของมนุษย์ เช่น ความอยากรู้อยากเห็น ความกลัว ความไว้วางใจ หรือความปรารถนาที่จะช่วยเหลือผู้อื่น เพื่อขโมยข้อมูลหรือสร้างรายได้

“Deepfake เป็นส่วนหนึ่งของการโจมตีทางไซเบอร์ ซึ่งแฮกเกอร์ใช้งานอยู่ในขณะนี้ โดยอาชญากรไซเบอร์ในห่วงโซ่การโจมตี”Eny Sauvêtre อธิบาย โดยมั่นใจว่าการโจมตีกำลังดำเนินอยู่ในขณะนี้

L'expert แตกต่างกรณีการใช้งานสองกรณีสำหรับ deepfakeเพื่อวัตถุประสงค์ที่เป็นอันตราย ประการแรก มี Deepfake จำนวนมาก นี่เป็น "ข้อมูลปลอม" ซึ่งแอบอ้างเป็นบุคคลสาธารณะ ผู้โจมตีจะ“พาใครสักคนไปให้พวกเขาพูดในสิ่งที่เขาไม่ได้พูดและมักจะเป็นคนที่มีอำนาจ”-

นอกจากนี้เรายังพบ Deepfakes ที่ใช้ในการโจมตีที่เรียกว่า "ฟิชชิ่งแบบสเปียร์" เช่น การดำเนินการฟิชชิ่งที่กำหนดเป้าหมายบุคคลหรือองค์กรโดยเฉพาะ โดยใช้ข้อมูลที่แม่นยำ Deepfake เป็นส่วนหนึ่งของการโจมตีที่ซับซ้อนเหล่านี้“ใช้เฉพาะกับเป้าหมายที่มีข้อมูลส่วนบุคคลของเป้าหมาย”-

เห็นได้ชัดว่าแฮกเกอร์จะสร้างเนื้อหาที่แอบอ้างเป็นคนที่คุณรักหรือเพื่อนร่วมงาน ตัวอย่างเช่น อาชญากรไซเบอร์สามารถโคลนเสียงของคนที่คุณรักได้ ซอฟต์แวร์ใช้เวลาเพียงไม่กี่นาทีในการคัดลอกเสียงของบุคคลและใช้เพื่อทำให้พวกเขาพูดอะไรก็ได้

เคล็ดลับในการระบุตัวตนเหล่านี้มีอะไรบ้าง

Deepfake ส่วนใหญ่สามารถตรวจพบได้โดยดูจากคุณลักษณะบางประการ คู่สนทนาของเรากล่าวถึงองค์ประกอบต่างๆ เช่นริมฝีปาก- วิดีโอที่สร้างโดย AI บางรายการไม่สามารถลิปซิงค์กับคำพูดของตัวเอกได้อย่างเหมาะสม อาจมีความล่าช้าเล็กน้อยระหว่างการเคลื่อนไหวของริมฝีปากและเสียง

นอกจากนี้ยังจำเป็นต้องให้ความสำคัญกับการการแสดงออกทางสีหน้า- หากใบหน้าของคู่สนทนาของคุณดูนิ่งเฉยเล็กน้อย อาจเป็นไปได้ว่าคุณกำลังเผชิญกับ Deepfake ในทำนองเดียวกัน เนื้อหาบางส่วนที่สร้างโดย AI ก็ละเลยการกะพริบ ในวิดีโอปลอมบางวิดีโอ ตัวเอกไม่เคยกระพริบตาเลย

“ในฐานะมนุษย์ เรารู้วิธีตรวจจับว่ามีคนที่อยู่ตรงหน้าเราซึ่งเป็นคนจริงหรือไม่”ผู้ร่วมก่อตั้ง Brain กล่าว

ให้เราอ้างอิงด้วยสีผิว- บ่อยครั้งที่ Deepfake มีปัญหาในการเลียนแบบวิธีที่แสงสะท้อนจากผิวหนังของมนุษย์ สุดท้ายนี้ เม็ดเกรนของภาพก็สามารถหักล้างการมีอยู่ของเนื้อหาที่สร้างโดย AI ได้ คุณภาพหรือความละเอียดที่แตกต่างกันระหว่างใบหน้ากับส่วนที่เหลือของวิดีโออาจแจ้งเตือนคุณ

สำหรับการปลอมแปลงเสียง เราขอแนะนำให้คุณถามคำถามส่วนตัวกับคู่สนทนาของคุณ หากเขาไม่สามารถตอบสนองต่อคุณได้ คุณอาจกำลังพูดด้วยเสียงที่ AI โคลนไว้ ในทำนองเดียวกัน ให้เน้นไปที่คำศัพท์ที่คนที่ขอให้คุณทำบางอย่างเลือก หากคำพูดที่ใช้ไม่เข้ากับนิสัยของเขาให้ระวัง

เทคโนโลยีที่พัฒนาอย่างรวดเร็ว

น่าเสียดายที่เทคโนโลยีมีการพัฒนาอย่างรวดเร็วจนเบาะแสในการระบุภาพปลอมมีแนวโน้มที่จะหายไป ตามที่เขาพูด“วันนี้เราสามารถให้คำแนะนำเกี่ยวกับ Deepfakes ได้ แต่นั่นจะไม่มีคุณค่าใดๆ อีกต่อไปในอีกไม่กี่เดือนข้างหน้าตามอัตราที่กำลังดำเนินอยู่”- นอกจากนี้ อาชญากรไซเบอร์จงใจทำให้เว็บเต็มไปด้วย Deepfake ที่ไม่ดีเพื่อหลอกผู้ใช้อินเทอร์เน็ต:

“ในความเป็นจริง มันเป็นเทคนิคของแฮ็กเกอร์ที่จะปล่อยให้มีดีพเฟคจำนวนมากที่มีคุณภาพต่ำมากวางอยู่รอบๆ ด้วยวิธีนี้ ผู้คนจะคุ้นเคยกับการพูดว่า "เอาล่ะ อันนี้ ฉันรู้จักมัน อันนี้ ฉันรู้ว่ามันจะเป็นอะไร" ที่จริงแล้วพวกเขาทำสิ่งเดียวกันกับฟิชชิ่ง พวกเขาทิ้งฟิชชิ่งจำนวนมากที่สามารถจดจำได้ แต่ในความเป็นจริงแล้วในฟิชชิ่งเหล่านี้ มีฟิชชิ่งที่ในความเป็นจริงไม่สามารถจดจำได้”-

เมื่อมนุษย์คุ้นเคยกับคุณลักษณะบางอย่างที่เกิดซ้ำแล้ว“พวกเขาใช้ซอฟต์แวร์ที่ดีที่สุดจริงๆ อัลกอริธึมที่ดีที่สุดจนไม่สามารถจดจำได้”- ดังนั้นผู้ที่ตกเป็นเหยื่อจึงมีแนวโน้มที่จะตกหลุมพราง

เครื่องมือในการตรวจจับ Deepfake

บนเว็บมีเครื่องมือมากมายที่มีแนวโน้มว่าจะช่วยคุณระบุเนื้อหาที่มีการปลอมแปลงอย่างลึกซึ้ง เราทดสอบโปรแกรมซอฟต์แวร์หลายโปรแกรมด้วยภาพจำลอง และผลลัพธ์ที่ได้ค่อนข้างหลากหลาย ให้เราอ้างอิงโดยเฉพาะ

ซึ่งมีเว็บอินเตอร์เฟสที่ใช้งานง่ายมาก แพลตฟอร์มนี้เชี่ยวชาญในการตรวจจับวิดีโอปลอม หากต้องการสแกนลำดับ เพียงลาก URL ไปไว้บนไซต์ วิดีโอ YouTube ส่วนใหญ่ที่เราทดสอบได้รับการตีความอย่างถูกต้องโดย AI

ดังที่เราได้กล่าวไปแล้ว เครื่องมือเหล่านี้ยังห่างไกลจากความผิดพลาด การทำมิเรอร์เครื่องมือที่ช่วยให้คุณตรวจจับได้ว่าข้อความนั้นเขียนโดย ChatGPT หรือแชทบอตอื่น ซอฟต์แวร์เหล่านี้สามารถทำผิดพลาดได้ ตัวอย่างเช่น พวกเขาสามารถระบุได้ว่า Deepfake ไม่ใช่เนื้อหาปลอม แต่เป็นรูปภาพจริง

ในทำนองเดียวกัน เครื่องมือบางอย่างบางครั้งอาจมีข้อสงสัยเกี่ยวกับความถูกต้องของภาพจริง นี่เป็นกรณีของแพลตฟอร์มอิลลูมินาติ- เราได้โพสต์ภาพถ่ายจริง 100% หลายภาพบนเว็บไซต์ และในบางกรณี Illuminarty เชื่อว่าเป็นไปได้ที่ AI มีส่วนเกี่ยวข้อง เว็บไซต์เชื่อว่ามีโอกาสมากกว่า 40% ที่ปัญญาประดิษฐ์จะสร้างภาพบุคคลของเรา เป็นต้น ในทางกลับกัน Deepfake ของ Macron ได้คะแนนเพียง 37% เท่านั้น ดังนั้นเราจึงห่างไกลจากการที่จะพึ่งพามันเพื่อปกป้องตนเองทางออนไลน์ได้

โปรดทราบว่าเครื่องตรวจจับที่ทรงพลังที่สุดส่วนใหญ่ไม่สามารถเข้าถึงได้ง่ายสำหรับบุคคลทั่วไป บางส่วนยังต้องติดตั้งบนพีซีที่ติดตั้งการ์ดกราฟิกที่ทรงพลังเพื่อให้สามารถตรวจจับได้ดี เครื่องมือล้ำสมัย เช่น เครื่องมือจาก Intel หรือ Microsoft ยังไม่มีให้บริการบนเว็บสำหรับผู้ใช้อินเทอร์เน็ตทุกคน

เป็นไปได้ไหมที่จะเปิดโปง Deepfake ทั้งหมด?

ด้วยการเพิ่มขึ้นของปัญญาประดิษฐ์ ทำให้ไม่สามารถระบุ Deepfake ทั้งหมดโดยมุ่งเน้นไปที่ข้อบกพร่องได้อีกต่อไป ตามที่ผู้เชี่ยวชาญที่เราสัมภาษณ์อธิบาย การระเบิดของ AI นั้นมาพร้อมกับการเร่งความเร็วในความแม่นยำของ Deepfakes

โดยปกติแล้ว Deepfake จำนวนมากสามารถระบุได้ด้วยการสังเกตเพียงเล็กน้อย นี่เป็นกรณีของการผลิตที่ถูกใช้ประโยชน์โดยเป็นส่วนหนึ่งของการโจมตีแบบกำหนดเป้าหมายน้อยลงเรื่อยๆ Deepfake คุณภาพสูงที่ผลิตโดยผู้โจมตีที่มีทรัพยากรทางการเงินจำนวนมากนั้นเป็นไปไม่ได้ที่จะตรวจพบอยู่แล้ว ด้วยเนื้อหานี้ ซึ่งใช้เป็นส่วนหนึ่งของการโจมตีแบบฟิชชิ่งแบบหอก“เราไม่สามารถแยกแยะได้ว่าเป็นของจริงหรือของปลอม”-

“ทุกสิ่งที่ใช้งานไม่ได้กับ Deepfake องค์ประกอบทั้งหมดสำหรับเราในการรับรู้ Deepfake […] มี AI ที่ได้รับการฝึกฝนและประสบความสำเร็จในการสร้างความสมจริงขั้นสูงขึ้นมาใหม่ในแต่ละจุดเหล่านี้ »ให้รายละเอียดเกี่ยวกับผู้ร่วมก่อตั้ง Brain เพื่อให้มั่นใจว่าการโจมตีที่ซับซ้อน“มันเป็นไปไม่ได้เลยที่จะตรวจพบ”-

เพื่อเป็นการป้องกันตนเอง ผู้เชี่ยวชาญ แนะนำให้ผู้ใช้อินเทอร์เน็ตได้รับการแจ้งอย่างดีเกี่ยวกับเทคโนโลยีเกิดใหม่ เช่น AI และดีฟเฟค ตามที่เขาพูด“เทคนิคขั้นสูงสุดในการป้องกัน Deepfake คือ การตระหนักรู้ เพียงแต่สนใจในเรื่องนั้นและเข้าใจสิ่งที่เกิดขึ้นจริง กล่าวคือ ต้องเข้าใจว่าการสร้าง Deepfake นั้นเป็นการโจมตีทางไซเบอร์ และการโจมตีทางไซเบอร์นั้นกระทำโดยอาชญากรไซเบอร์ที่ ต้องการเงินหรืออำนาจ”-

แนวปฏิบัติที่ดีเพื่อป้องกันตัวเอง

เพื่อหลีกเลี่ยงการตกหลุมพรางของ Deepfake จำนวนมากซึ่งมีจุดประสงค์เพื่อเผยแพร่ข้อมูลเท็จ มีวิธีแก้ไขไม่มากนัก คุณเพียงแค่ต้องกลับไปที่แหล่งที่มาของเนื้อหา- เมื่อผู้ใช้อินเทอร์เน็ตพึ่งพาแหล่งที่มาที่มีชื่อเสียงและเป็นที่ยอมรับเท่านั้น เนื้อหาที่เป็น Deepfake จะไม่สามารถหลอกพวกเขาได้อีกต่อไป

ผู้เชี่ยวชาญยังแนะนำให้โทรหาคุณด้วย“สามัญสำนึก”- ก่อนที่คุณจะรับชมวิดีโอที่แสดง Elon Musk หรือ Tom Hanks เสนอสกุลเงินดิจิทัลฟรีให้คุณ โปรดย้อนกลับไปก่อน อย่าลังเลที่จะค้นหาใน Google เพื่อดูว่าข้อมูลที่ส่งผ่านวิดีโอนั้นถูกใช้บนเว็บไซต์อื่นหรือไม่ ถ้าไม่เช่นนั้น คุณอาจเริ่มสงสัยในสิ่งที่คุณเห็นหรือได้ยิน

เพื่อหลีกเลี่ยงการตกหลุมพรางของการโจมตีแบบกำหนดเป้าหมาย คุณควรมุ่งความสนใจไปที่คำขอของคู่สนทนาของคุณแทน มันจำเป็น“วิเคราะห์การดำเนินการที่ร้องขอ”ตัดสินผู้เชี่ยวชาญ ถ้า“คนๆ นี้ถามฉันเรื่องเร่งด่วนที่ฉันไม่ควรทำ หรือขอให้ฉันเลี่ยงขั้นตอนหรืออะไรทำนองนั้น”มันเป็นสัญญาณเตือนสีแดง

🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-