นักร้องชาวอเมริกัน Taylor Swift ตกเป็นเหยื่อของ Deepfakes ลามกอนาจาร เป็นเวลาหลายชั่วโมงในสัปดาห์ที่แล้ว ภาพทางเพศที่มีเธอสร้างขึ้นโดย AI แพร่กระจายอย่างหนาแน่นบน X ซึ่งเป็นโซเชียลเน็ตเวิร์กของ Elon Musk ก่อนที่แพลตฟอร์มจะเริ่มก้าวแรก นี่คือสิ่งที่คุณต้องจำไว้ในสี่จุด
นี่เป็นครั้งแรกที่กสื่อลามกอนาจารล้ำลึกได้รับการวิจารณ์อย่างมากทั้งจากแฟน ๆ และนักการเมือง เมื่อสัปดาห์ที่แล้ว รูปภาพที่สร้างโดย AI ของนักร้อง Taylor Swift ซึ่งมีลักษณะทางเพศ ได้รับการเผยแพร่อย่างหนาแน่นบน X ซึ่งเป็นโซเชียลเน็ตเวิร์กของ Elon Musk แพลตฟอร์มจะใช้เวลา 17 ชั่วโมงในการตอบสนอง ก่อนที่จะใช้มาตรการที่ผิดปกติ: บล็อกการค้นหาชื่อของ Taylor Swift บนแพลตฟอร์มชั่วคราว
การเผยแพร่ภาพลามกอนาจารของ Taylor Swift ที่สร้างโดย AI ไม่ใช่เรื่องน่าประหลาดใจเลย ชาวอเมริกันที่ได้รับการเสนอชื่อให้เป็นบุคลิกภาพแห่งปี 2023 โดย Time ได้ตกเป็นเหยื่อไปแล้ว แต่นับตั้งแต่เปิดตัวเครื่องมือ AI ที่เข้าถึงได้สำหรับคนทั่วไป หลายคนก็ส่งเสียงเตือน เมื่อเดือนมีนาคมที่ผ่านมา กองบรรณาธิการจากการ์เดี้ยนเขียนว่า: คำถามไม่ใช่ว่าถ้า แต่เมื่อใดที่เราจะจบลงด้วยภาพลามกอนาจาร เธออาจกล่าวเพิ่มเติมว่า: คำถามไม่ใช่ว่าหรือไม่ แต่เมื่อใดที่เราจะได้เห็นเครือข่ายโซเชียลที่กำลังดิ้นรนเพื่อจัดการกับการแพร่กระจายของภาพลามกอนาจาร
อ่านเพิ่มเติม:การปลอมแปลงภาพอนาจาร: ธุรกิจที่กำลังเฟื่องฟูอย่างน่าเสียดาย
1. รูปภาพที่สร้างโดย AI รับชม 47 ล้านครั้งก่อนที่จะถูกหยุด
เพราะนั่นแหละ เมื่อปลายเดือนมกราคม พ.ศ. 2567 คดีที่เป็นสัญลักษณ์ได้เกิดขึ้น สัปดาห์ที่แล้ว ภาพลามกอนาจารหลายภาพที่สร้างโดย AI ซึ่งมีนักร้อง Taylor Swift ถูกเผยแพร่บน Telegram ก่อนที่จะจบลงที่ X รายงาน 404 มีเดีย. ตรงกันข้ามกับสิ่งที่สังเกตมาจนถึงขณะนี้ ผู้แต่ง Deepfakes เหล่านี้ไม่ได้ใส่ใบหน้าของ Taylor Swift ไว้บนใบหน้าของนักแสดงภาพยนตร์เรท X พวกเขาคงจะใช้เครื่องมือของ Microsoft ฟรี แต่การใช้งานของ The ได้ถูกเปลี่ยนไปสร้างภาพจาก A ถึง Z เพื่อนร่วมงานของเราอธิบาย
ภาพดังกล่าวถูกเผยแพร่เป็นเวลาหลายชั่วโมง จนกระทั่งภาพหนึ่งมีผู้เข้าชมถึง 47 ล้านครั้ง และมีการแชร์ถึง 24,000 ครั้ง จากนั้น “Taylor Swift AI” ก็กลายเป็นหัวข้อหลักของแพลตฟอร์ม จากนั้นชุมชนแฟนๆ ของเธอก็ตอบโต้ด้วยการเผยแพร่วิดีโอจริงของนักร้องคนดังกล่าวอย่างหนาแน่น เพื่อให้ภาพลามกอนาจารจมหายไปในวงกว้าง
2. X ตอบสนอง… 17 ชั่วโมงต่อมา
เพียง 17 ชั่วโมงต่อมา X ก็ตอบสนองในที่สุด เงื่อนไขทั่วไปในการใช้แพลตฟอร์มห้ามไว้อย่างชัดเจน”เนื้อหาที่มีการแก้ไขปลอมแปลงและมีแนวโน้มที่จะทำให้ผู้คนเข้าใจผิด- แต่ปัญหาทั้งหมดอยู่ที่การใช้กฎเหล่านี้ เพราะในด้านหนึ่งแพลตฟอร์มมีสถานะเป็นโฮสต์ จะไม่รับผิดชอบต่อเนื้อหาที่เผยแพร่โดยผู้ใช้ ซึ่งได้รับการคุ้มครองโดยหลักการของเสรีภาพในการแสดงออก แต่ในทางกลับกัน แพลตฟอร์มควรจะลบเนื้อหาที่ละเมิดเงื่อนไขทั่วไปและได้รับการรายงานแล้ว ปัญหาคือว่ามันเกี่ยวกับภาพเหล่านี้
เมื่อวันศุกร์ที่ผ่านมา โซเชียลเน็ตเวิร์กเริ่มต้นด้วยการลบบัญชีที่เผยแพร่ภาพดังกล่าวเป็นครั้งแรก วันรุ่งขึ้น เขาได้ดำเนินการขั้นตอนที่ผิดปกติ: บล็อกการค้นหาที่เกี่ยวข้องกับนักร้อง หากคุณค้นหาสิ่งนี้บนโซเชียลเน็ตเวิร์ก คุณจะได้รับข้อความต่อไปนี้:“มีข้อผิดพลาดเกิดขึ้น ลองโหลดหน้านี้ซ้ำ »- มาตรการดังกล่าวซึ่งเรียกว่า “ชั่วคราว” ถูกนำมาใช้เพื่อหลีกเลี่ยงการแพร่กระจายของภาพที่มีข้อโต้แย้ง ตอนนี้มันหายากขึ้นนิดหน่อย” นักข่าวคนนี้อธิบาย ฟอร์บส์ซึ่งวิพากษ์วิจารณ์วิธีที่ X พยายามแก้ไขปัญหา เรื่องเดียวกันบนหน้าของ บดได้- -การทำให้ชื่อของ Swift ไม่สามารถติดตามได้บ่งบอกว่า X ไม่ทราบวิธีจัดการกับรูปภาพและวิดีโอปลอมมากมายบนแพลตฟอร์ม», เขียนเพื่อนร่วมงานของเรา
เมื่อวันศุกร์ที่แล้ว X ได้ประกาศบนแพลตฟอร์มแล้วว่า “lห้ามมิให้มีการเผยแพร่ภาพเปลือยโดยไม่ได้รับความยินยอมบน X โดยเด็ดขาด และเราใช้นโยบายที่จะไม่ยอมรับเนื้อหาประเภทนี้ ทีมงานของเราลบภาพที่ระบุทั้งหมดออกและดำเนินการอย่างเหมาะสมกับบัญชีที่รับผิดชอบในการเผยแพร่ภาพเหล่านั้น- เครือข่ายโซเชียลยังประกาศว่าได้จ้างผู้ดูแลที่อุทิศตนเพื่อต่อสู้กับสื่อลามกอนาจารเด็ก ซึ่งจะประจำอยู่ที่เมืองออสติน รัฐเท็กซัส
https://twitter.com/Safety/status/1750765055380263272?ref_src=twsrc%5Etfw
3. ทำเนียบขาวเข้ามามีส่วนร่วม
คดีนี้ก่อให้เกิดปฏิกิริยาจากทำเนียบขาว โดยระบุว่า รู้สึกตื่นตระหนกกับการเผยแพร่ภาพเท็จเหล่านี้ โฆษก Karine Jean-Pierre เล่าว่าโซเชียลเน็ตเวิร์กต้องกลั่นกรองเนื้อหาที่ออกอากาศบนแพลตฟอร์มของตน“น่าเศร้าที่บ่อยครั้งเรารู้ว่าการขาดการบังคับใช้มีผลกระทบอย่างไม่สมส่วนต่อผู้หญิงและเด็กผู้หญิง ซึ่งเป็นเป้าหมายหลักของการคุกคามทางออนไลน์”เธอกล่าวเสริม หลังนี้ตอกย้ำถึงความรับผิดชอบของโซเชียลเน็ตเวิร์กที่มี “มีบทบาทสำคัญในการบังคับใช้กฎของตนเองเพื่อป้องกันการแพร่กระจายของข้อมูลที่ผิดดังกล่าว- -สิ่งที่เกิดขึ้นน่าตกใจมาก ดังนั้นเราจะทำสิ่งที่เราสามารถทำได้เพื่อแก้ไขปัญหานี้“เธอกล่าวเสริม
https://twitter.com/PressSec/status/1751012521589313808
ปัญหาจะสามารถแก้ไขได้ด้วยกฎหมายที่จัดการกับการใช้ AI ในทางที่ผิดบนโซเชียลมีเดียหรือไม่? นี่คือสิ่งที่โจเซฟ มอเรล สมาชิกสภาคองเกรสจากพรรคเดโมแครต ซึ่งร่างพระราชบัญญัติ "การป้องกันภาพแอบถ่ายที่ใกล้ชิด" กำลังถูกหารือต่อหน้าคณะกรรมการตุลาการของสภาผู้แทนราษฎรเนื่องจากในสหรัฐอเมริกา ไม่มีกฎหมายห้ามในระดับรัฐบาลกลางสำหรับวิดีโอหรือรูปภาพปลอมประเภทนี้ที่สร้างโดยปัญญาประดิษฐ์ ความว่างเปล่าที่โจเซฟ มอเรลปรารถนาที่จะเติมเต็มผู้ที่อยากจะสร้าง”ของการแบ่งปันภาพอนาจารที่ดัดแปลงแบบดิจิทัลโดยไม่ได้รับความยินยอมจากบุคคลที่เกี่ยวข้อง"ซึ่งเป็นอาชญากรรมของรัฐบาลกลาง มีโทษจำคุกและปรับ นอกจากนี้เขายังต้องการให้เหยื่อสามารถนำตัวผู้กระทำผิดเข้าสู่กระบวนการยุติธรรมได้
สำหรับนักการเมืองที่พูดถึงบัญชี X ของเขา”การเผยแพร่ภาพ Taylor Swift ที่สร้างโดย AI อย่างโจ่งแจ้งนั้นน่าตกใจ และน่าเศร้าที่สิ่งนี้เกิดขึ้นกับผู้หญิงทุกที่และทุกวัน- ที่จริงแล้วดวงดาวไม่ใช่เหยื่อเพียงรายเดียวของภาพประเภทนี้
4. คน “นิรนาม” ก็ตกเป็นเหยื่อของ Deepfake ลามกอนาจารเช่นกัน
เมื่อเดือนตุลาคมปีที่แล้ว โรงเรียนมัธยมแห่งหนึ่งในรัฐนิวเจอร์ซีย์เป็นหัวข้อข่าวเป็นเวลาหลายวัน วัยรุ่นได้สร้างเพื่อนร่วมชั้น (หญิง) ในเวอร์ชันเปลือยด้วย AI ฝันร้ายที่แท้จริงที่อาจไม่มีวันสิ้นสุดอธิบายแม่ของเหยื่อรายหนึ่งว่า “ฉันกลัวว่าเรื่องนี้จะเกิดขึ้นได้อย่างไร ลูกสาวของฉันมีอนาคตที่สดใส และไม่มีใครรับประกันได้ว่าสิ่งนี้จะไม่ส่งผลกระทบต่อการทำงาน โรงเรียน หรือชีวิตทางสังคมของเธอ» เธอคร่ำครวญ
คดีนี้ไม่ได้จำกัดอยู่แค่ในประเทศสหรัฐอเมริกาเท่านั้น ในสเปน เด็กสาวประมาณ 30 คน อายุระหว่าง 11 ถึง 17 ปี ตกเป็นเหยื่อของการปลอมแปลงอย่างล้ำลึกเมื่อเดือนกันยายนปีที่แล้ว คนหนุ่มสาวเผยแพร่ภาพถ่ายเปลือยของตนเองบนโซเชียลเน็ตเวิร์ก รายงานบีบีซี- ในฝรั่งเศส สถานการณ์เช่นนี้อาจเกิดขึ้นได้ แต่ " เรามีคลังแสงทางกฎหมายที่ค่อนข้างพัฒนาทั้งในระดับพลเรือนและระดับอาชญากร», เล่าอาร์โนด์ ตูอาติ หุ้นส่วนของบริษัทแฮชแท็ก อะโวแคตส์ สัมภาษณ์โดย01net.com-
เมื่อเร็วๆ นี้กฎหมายที่มุ่งรักษาความปลอดภัยและควบคุมพื้นที่ดิจิทัล (SREN) ช่วยเสริมมาตรการเหล่านี้ การเผยแพร่ภาพลามกอนาจาร Deepfake ขณะนี้มีโทษปรับสูงสุดจำคุกสองปีและปรับ 60,000 ยูโร- “นอกจากนี้ เรายังได้สร้างสถานการณ์ที่เลวร้ายขึ้นอีกด้วย”ขีดเส้นใต้อาร์โนด์ ตูอาติ-“หากการตีพิมพ์เกิดขึ้นในบริการสื่อสารสาธารณะออนไลน์ (เช่น โซเชียลเน็ตเวิร์ก บันทึกของบรรณาธิการ) ความผิดมีโทษจำคุก 3 ปี และปรับ 75,000 ยูโร”
🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
