กำลังก้าวไปอย่างรวดเร็ว กฎหมายและการปฏิบัติทางสังคมของเราไม่ได้ติดตาม ผู้มีส่วนได้ส่วนเสียที่หลากหลายตั้งแต่หน่วยงานกำกับดูแลไปจนถึงศิลปินนำความกังวลมาสู่ตาราง การรับรู้สาธารณะยังค่อนข้างต่ำและจำเป็นต้องมีการศึกษามากขึ้น คำศัพท์ที่เล่นนั้นไม่มีประสิทธิภาพและล้าสมัย ความอ่อนแอร่วมของเราในการรับรู้สื่อปลอมและการใช้การคิดอย่างมีวิจารณญาณสามารถนำไปสู่การเปลี่ยนแปลงชีวิตที่ตามมาสำหรับผู้ที่ตกเป็นเหยื่อ ในขณะเดียวกันภัยคุกคามที่อาจเกิดขึ้นต่อผลการเลือกตั้งอาจดูล้นเกิน - แต่เนื่องจากเนื้อหาปลอมสามารถแพร่กระจายด้วยความเร็วผ่านเครือข่ายสังคมออนไลน์มันสามารถกัดกร่อนโครงสร้างความไว้วางใจทางสังคมโดยรวมและโยนความจริงไปสู่ความวุ่นวายของความไม่แน่นอน
เราทำอะไรได้บ้าง? เมื่อเร็ว ๆ นี้การประชุมเชิงปฏิบัติการ Deepfakeเป็นเจ้าภาพโดยสมาคมยุโรปเพื่อชีวภาพ (EAB) ซึ่งเป็นกลุ่มผู้เชี่ยวชาญที่มีน้ำหนักเกี่ยวกับวิธีการที่กฎหมายกฎระเบียบการศึกษาและเทคโนโลยีสามารถรวมกันเพื่อการปกป้องที่มีประสิทธิภาพต่อภัยคุกคามที่เกิดขึ้นใหม่ คำถามที่ครอบคลุมคือแรงโน้มถ่วงสูงสุด: เมื่อมันลงมาถึงมันความเป็นจริงที่คุ้มค่าสำหรับเราคืออะไร?
การสร้างและตรวจจับ Deepfake ในวัฏจักร 'Rat Race': Peter Eisert
สำหรับ Peter Eisert หัวหน้าฝ่ายวิสัยทัศน์และการถ่ายภาพและประธานแผนกการประมวลผลภาพที่ Humboldt University รุ่นและการตรวจจับของ Deepfakes นั้นถูกจับในวงซ้ำ การแพร่กระจายของเครื่องมือ Deepfake ที่เข้าถึงได้ง่ายนำไปสู่การปรับแต่งอย่างต่อเนื่อง Eisert ใช้ภาพของล้อแฮมสเตอร์เพื่อเป็นสัญลักษณ์ของความพยายามอย่างต่อเนื่องในการพัฒนา AI ที่มีประสิทธิภาพในการตรวจจับสิ่งเหล่านี้มากขึ้นเรื่อย ๆ-
“ เราได้เห็นคุณภาพของ Deepfake เพิ่มขึ้นอย่างมาก” Eisert กล่าว ในการแข่งขันหนูระหว่าง AI ที่มีการฉ้อโกงและการป้องกัน AI กลยุทธ์การตรวจจับจะต้องพัฒนาควบคู่ไปกับรูปแบบการโจมตี
Eisert สรุปรูปแบบต่าง ๆ ของหน้าลึกในปัจจุบันวางใบหน้าของใครบางคนไว้บนร่างกายของคนอื่น การยืนยันการกระทำของใบหน้าจะจัดการกับการแสดงออกทางสีหน้าหรือท่าทาง Deepfakes สังเคราะห์อย่างเต็มที่สามารถสร้างขึ้นได้ด้วยรูปแบบ GAN หรือการแพร่กระจาย วิธีการยังคงพัฒนาอย่างต่อเนื่อง: Eisert ชี้ไปที่“ การสปิทการแยกแบบเกาส์”-เทคนิคใหม่ที่ให้ความลึกบนใบหน้าที่มีความละเอียดสูง การทำซ้ำใหม่แต่ละครั้งแสดงสิ่งประดิษฐ์ประเภทต่าง ๆ ที่ปรากฏในสถานที่ต่าง ๆ และในบริบทที่แตกต่างกัน
หากการตรวจจับ Deepfake เป็นไปตามการสร้างมันจะต้องมีการพัฒนาในเวลา เครื่องตรวจจับ Deepfake ปัจจุบันจำนวนมากนั้นใช้เฟรมต่อเฟรม แต่ Eisert กล่าวว่าพวกเขาควรจะดูผลกระทบทางโลกและ“ ไม่สอดคล้องกันเมื่อเวลาผ่านไป” - ข้อมูลความหมายและทางโลกในเนื้อหาเช่นอัตราการเต้นของหัวใจหรือการไหลเวียนของเลือดในใบหน้าเช่นเป็นตัวบ่งชี้ที่มีศักยภาพ
อันเป็นสิ่งสำคัญเช่นกัน หากชุดข้อมูลมีสิ่งประดิษฐ์ที่ง่ายต่อการจัดวางมากเกินไปรุ่น AI จะกระโดดขึ้นไปบนสิ่งประดิษฐ์เหล่านี้ได้อย่างง่ายดายและจะไม่พูดคุยกันได้ดี “ เราต้องการข้อมูล Deepfake คุณภาพสูงเพื่อฝึกอบรมเครื่องตรวจจับที่มีประสิทธิภาพ” Eisert กล่าวเพื่อ“ ทำให้ผู้โจมตีใหม่ยากขึ้นในการค้นหาหลุมในพื้นที่แฝงของคุณซึ่งไม่ครอบคลุมโดยเครื่องตรวจจับของคุณ”
กลยุทธ์การฝึกอบรมเช่น altfreezing หรือนิติวิทยาศาสตร์ที่แท้จริงเสนอวิธีการที่แตกต่างกันในปัญหาวิธีการฝึกอบรมเครื่องตรวจจับเพื่อให้ความสนใจกับคุณสมบัติทางโลก มีความเป็นไปได้เพิ่มเติม: พารามิเตอร์การแสดงออกทางสีหน้าและการพิมพ์ลายนิ้วมือ Avatar - เทคโนโลยี ID ผู้ใช้ที่พัฒนาโดย NVIDIA - ซึ่งใช้การเปลี่ยนแปลงใบหน้าสำหรับ-
ประเด็นสำคัญจาก EISERT คือความสอดคล้องทางโลกยังไม่ถูกนำไปใช้อย่างเต็มที่สำหรับการตรวจจับและชุดข้อมูลคุณภาพสูงที่มีข้อมูลที่หลากหลายเป็นสิ่งจำเป็นสำหรับการฝึกอบรม
'มันไม่ง่ายเลยที่ดวงตามนุษย์จะตรวจจับ Deepfakes': Ann-Kathrin Freiberg
Ann-Kathrin Freiberg ของ Bioid ซึ่งเพิ่งพูดคุยเกี่ยวกับอาหารกลางวันเกี่ยวกับ Deepfakes นำมุมมองของอุตสาหกรรมมาสู่การประชุมเชิงปฏิบัติการ เธอเน้นถึงจุดเดียวกันหลายจุดจากการพูดคุยก่อนหน้านี้: Deepfakes ใช้สำหรับกิจกรรมทางอาญาเช่นฟิชชิ่ง, การหลอกลวงวิดีโอซีอีโอ, การหลอกลวงโรแมนติกและ - ส่วนใหญ่ - - ส่วนใหญ่ -ซึ่งมีเนื้อหามากกว่า 90 เปอร์เซ็นต์ของเนื้อหา deepfake
Deepfake Tech ก็เป็นภัยคุกคามต่อประชาธิปไตย แคมเปญการบิดเบือนข้อมูล Deepfake ส่งผลให้เกิดการรบกวนการเลือกตั้งสามารถแพร่กระจายได้อย่างรวดเร็วโดยมีเนื้อหาหมุนเวียนและรวบรวมมุมมองหลายพันครั้งภายในไม่กี่ชั่วโมง แม้ว่าวิดีโอจะถูกจัดการ Freiberg กล่าวว่า“ ผู้คนจำนวนมากได้เห็นมันแล้ว”
น่าเสียดายที่ผู้คนไม่พร้อมที่จะตรวจจับ- ดวงตาของมนุษย์ยังคงทำงานได้ค่อนข้างแย่และมันจะกลายเป็นเรื่องยากมากขึ้นเมื่อเทคโนโลยีในการสร้าง Deepfakes ดีขึ้น ยิ่งไปกว่านั้นบางคนก็ไม่สนใจหากบุคคลสาธารณะบางคนไม่จริง Freiberg ชี้ไปที่ Instagram Sensation Aitana Lopez โมเดล Deepfake (หรือ“ Virtual Soul”) ที่มีผู้ติดตาม 329,000 คนและนำเงินหลายพันยูโรต่อเดือนสำหรับหน่วยงานสเปนที่สร้างเธอ “ ผู้คนไม่สนใจจริง ๆ ว่าเธอเป็นผู้สร้างขึ้นมา” Freiberg กล่าว
เพื่อควบคุมการคุกคามทั้งสองอย่างเช่นการขโมยข้อมูลประจำตัวและความเสียหายด้านชื่อเสียงและภัยคุกคามทางสังคมเช่นการเข้าไปแทรกแซงการเลือกตั้งวิธีการตรวจจับ deepfake จะต้องอยู่เสมอ มันเป็น AI กับ AI ในเวที Deepfake แต่การจับคู่ไม่ได้เป็นเพียงแค่ gladiatorial - และไม่ได้รับรางวัลเพียงอย่างเดียวโดยอัลกอริทึม Freiberg เชื่อว่ากุญแจสำคัญในการมีประสิทธิภาพเป็นวิธีการแบบองค์รวมที่ผสมผสานการรู้หนังสือของสื่อ (การรับรู้ถึงสิ่งที่เราแบ่งปันและวิธีการ) กับกฎระเบียบเช่นพระราชบัญญัติ EU AI และโซลูชันการสนับสนุนทางเทคนิคเช่นการวิเคราะห์ลายน้ำและการวิเคราะห์แหล่งกล้อง
'วงกลมกำลังปิดที่นี่': Mateusz Labuz
การตรวจจับ deepfakes หมายถึงการกำหนดก่อน ดังนั้น Mateusz łabuzจาก Chemnitz University of Technology กล่าว Labuz แยกความแตกต่างระหว่างด้านเทคนิคการพิมพ์ดีดมีผลและอัตนัยของ deepfakes ตัวเลขทั้งหมดเหล่านี้เป็นวิธีการแบบองค์รวมที่จำเป็นในการต่อสู้กับพวกเขา
การพูดคุยของ Labuz เอนตัวไปจาก "การตรึงทางเทคนิค" เพื่อใช้เวลาทั้งหมด- เทคโนโลยีต้องการกรอบที่ถูกต้องเขากล่าว นั่นหมายถึงการทำความเข้าใจไม่ใช่แค่ขนาดของปัญหา แต่ยังรวมถึงลักษณะของมัน
ตัวอย่างเช่นปัญหาของเป็นปัญหาด้านความปลอดภัยของผู้หญิงเนื่องจากสื่อลามกลึกลงไป 99 % เป็นของผู้หญิง ผู้หญิงที่ตกเป็นเหยื่อของ Deepfakes ประสบผลในระยะยาวทางร่างกายและจิตใจ
สัมพันธ์กันว่าด้วยความจริงที่ว่า 98 เปอร์เซ็นต์ของวิดีโอ Deepfake เกี่ยวข้องกับสื่อลามกและคุณมี Deepfakes เป็นภัยคุกคามที่สำคัญสำหรับผู้หญิงโดยเฉพาะ
ในทางกลับกันยังมีที่ว่างสำหรับการใช้งานที่หลากหลายสำหรับ deepfakes และการตอบสนองที่เหมาะสม และผลกระทบของการรบกวนน้อยที่สุดจากการโจมตีแบบลึกอาจมีผลที่ตามมาเพื่อทำลายความไว้วางใจในสื่อและข้อมูล
กฎระเบียบ Labuz กล่าวว่ามักจะขาดมาตรการที่เพียงพอเพื่อปกป้องผู้ใช้ นอกจากนี้เขายังกล่าวถึงการป้องกันเช่นลายน้ำ, การแฮชไบโอเมตริกซ์และเทคนิคอื่น ๆ ที่สามารถใช้ในการตรวจสอบความถูกต้องของสื่อ การตอบโต้จะต้องไปไกลกว่าเครื่องบินตามกฎหมายการลงทุนและเครื่องมือและเงินทุนของมนุษย์เป็นสิ่งจำเป็น เทคโนโลยีจะต้องจับคู่กับการรับรู้, ความยืดหยุ่นและวิธีการขยายการขยาย การบังคับใช้ที่มีประสิทธิภาพจะต้องแสดงให้เห็นได้
Labuz กล่าวว่า“ วงกลมกำลังปิดที่นี่” สังคมจะต้องเคลื่อนไหวเร็วขึ้นเพื่อให้แน่ใจมีการเปิดเผยอย่างชัดเจนเสมอปรับระบบกฎหมายเพื่อสะท้อนถึงภัยคุกคามและความต้องการใหม่ ๆ (เช่นการช่วยเหลือผู้ที่ตกเป็นเหยื่อของสื่อลามกลึก) และโดยทั่วไปจะเสริมสร้างความยืดหยุ่นทางสังคมและการรับรู้ของประชาชน “ ผู้ที่ตกเป็นเหยื่อของ Deepfakes รู้หรือไม่ว่าพวกเขาสามารถทำอะไรได้บ้างในสถานการณ์นั้นหรือไม่? ฉันเห็นจุดอ่อนขนาดใหญ่ในการตอบสนองในช่วงเวลาวิกฤติ”
ในท้ายที่สุด Labuz วางแนวทางแบบองค์รวมบนเสาสามเสาซึ่งตรวจสอบข้อความจำนวนมากโดย Eisert และ Freiberg กฎระเบียบและมาตรการทางกฎหมายเทคโนโลยีและระบบการตรวจจับและการเพิ่มความยืดหยุ่นทางสังคมเป็นวิธีการออกจากภาวะที่กลืนไม่เข้าคายไม่ออกของเรา มันจะต้องมีบทสนทนาความยืดหยุ่นและความกว้างเพื่อค้นหาวิธีแก้ปัญหา
“ มันไม่ได้เกี่ยวกับการขัดขวางนวัตกรรม” เขากล่าว “ มันเกี่ยวกับการฟื้นฟูความเชื่อมั่นขั้นพื้นฐานในเทคโนโลยีในสังคมของเรา”
'การออกแบบการตรวจจับและคำอธิบาย': Gian Luca Marcialis
Gian Luca Marcial วิ่งหน่วยไบโอเมตริกซ์ของ Saifer Lab- ห้องปฏิบัติการกำลังดำเนินการเกี่ยวกับวิธีการตรวจจับ deepfake แบบพาสซีฟและในอนุกรมวิธานการตรวจจับ deepfake ซึ่งชั้นเรียนการตรวจจับจำนวนมาก: เครือข่ายทั่วไป/การตรวจจับที่ไม่ได้ทิศทาง (กล่าวอีกนัยหนึ่งนิ้วพิเศษ, ปัญหากระพริบอัตราการเต้นของหัวใจและเสียงรบกวนดิจิตอล) การเรียนรู้อย่างลึกซึ้งและเครือข่ายประสาทแบบ convolutional เป็นอีกทางเลือกหนึ่งในการขยายการตรวจจับ
Saifer Lab ของ Marcialis มีส่วนร่วมในการทำงานอย่างต่อเนื่องเพื่อทำแผนที่กระบวนการทางเทคนิคที่หนุนวิธีการตรวจจับ Deepfake มันสะท้อนให้เห็นถึงความพยายามของชุมชนที่ใหญ่กว่าที่จะไม่เพียง แต่ตรวจจับ deepfakes แต่เพื่อกำหนดและแยกแยะสิ่งที่พวกเขาเป็น
'คุณไม่สามารถมองเห็นหรือสัมผัสกับเสียงของเสียงได้': เจนนิเฟอร์วิลเลียมส์
“ การประมวลผลคำพูดและเสียงที่ใช้เพื่อต้องใช้ปริญญาเอกทั้งหมดในวิศวกรรมไฟฟ้า ตอนนี้มันสามารถเป็นใครก็ได้ที่สร้าง deepfakes เหล่านี้” ดังนั้นเจนนิเฟอร์วิลเลียมส์ผู้ช่วยศาสตราจารย์ที่มหาวิทยาลัยเซาแธมป์ตันกล่าวซึ่งครอบคลุมมุมหูของการล่มสลายของ Deepfakeใช้ประโยชน์จากอคติในการได้ยินของมนุษย์ซึ่งให้เสียง“ เล่นกลอุบายกับเรา” คำพูดเป็นข้อมูลไบโอเมตริกซ์ที่แสดงถึงตัวตนที่ไม่ซ้ำกัน หากถูกบุกรุกผลลัพธ์อาจมีตั้งแต่การฉ้อโกงทางการเงินไปจนถึงความสามารถที่จะเชื่อในสิ่งที่คุณได้ยิน
“ สำหรับบางคน” วิลเลียมส์กล่าว“ มันเป็นปัญหาของความเป็นจริงจริงๆ”
เทคโนโลยีการสังเคราะห์ด้วยเสียงมีความก้าวหน้าอย่างรวดเร็ว ในปี 2559 SPS ของระบบประสาทที่ทันสมัยเรียกว่าเมอร์ลินยังคงฟังเหมือนหุ่นยนต์โปรเฟสเซอร์ ตอนนี้เรามีและเจ้าหน้าที่กิจการสาธารณะเสมือนจริงทำงบในนามของรัฐบาลแห่งชาติ กรณีการใช้งานในเชิงบวกทำให้เกิดการเปลี่ยนแปลงการเกิดแผ่นดินไหวในเทคโนโลยีเสียงซึ่งจะถูกเอาเปรียบอย่างหลีกเลี่ยงไม่ได้สำหรับการสิ้นสุดทางอาญา
วิลลิมส์กล่าวว่าการโจมตีด้วยเสียง Deepfake มาในรูปแบบที่หลากหลาย:
การโจมตีแบบบันทึกและการเล่นเป็นที่ที่“ บุคคลที่พูดนั้นเป็นคนที่ถูกต้อง แต่คำพูดได้ถูกจับและเล่นซ้ำเพื่อให้คำอาจออกไปจากบริบท” มันสามารถทำได้ด้วยการบันทึกแหล่งที่มาง่าย ๆ ของเสียงของบุคคล การบันทึกสามารถเชื่อมต่อเป็นตัวอย่างอื่น ๆ ของจริงหรือเพื่อเปลี่ยนบริบท (คิดเกี่ยวกับสิ่งที่อาจเป็นผลมาจากนักต้มตุ๋นที่ไม่มีอะไรมากไปกว่าการบันทึกของคุณพูดว่า“ ใช่”)
การแปลงด้วยเสียง“ ต้องการลำโพงแหล่งที่จะพูดคำที่ถูกต้องอย่างแน่นอน” จากนั้นสามารถแปลงเสียงของลำโพงต้นฉบับเป็นของลำโพงเป้าหมายจำนวนใดก็ได้ เนื้อหาของคำพูดยังคงเหมือนเดิม แต่เสียงเปลี่ยนไป
“ ใส่คำพูดในปากของใครบางคนที่พวกเขาไม่เคยพูดมาก่อน” ผ่านการฝังลำโพง สิ่งนี้ต้องการการเรียนรู้ของเครื่องจักรที่ซับซ้อนและข้อมูลการฝึกอบรมจำนวนมากและช่วยให้สามารถควบคุมสิ่งต่าง ๆ เช่นพิทช์ฉันทลักษณ์และอารมณ์ต่ำ
Deepfakes บางส่วนเป็นที่ที่คุณทำการแก้ไขเล็ก ๆ น้อย ๆ เพื่อผสมผสานสื่อจริงและปลอม สิ่งนี้รวมความสามารถในการแก้ไขและการเรียนรู้ของเครื่องหลายประเภท
สิ่งประดิษฐ์สำหรับตรวจพบได้ง่ายที่สุดในความถี่ที่สูงขึ้นมักจะอยู่นอกช่วงของการได้ยินของมนุษย์ พวกเขาสามารถเกิดขึ้นได้ในฐานะป๊อปที่ไม่ได้ยินเสียงเสียงพึมพำจากระยะเวลาที่ไม่ตรงกันและในปัญหาเกี่ยวกับการประกาศหรือจังหวะการหายใจ พวกเขาไม่ได้กระจายอย่างสม่ำเสมอในเวลา
ถูกต้องตามกฎหมายมีความท้าทายทางสังคมและเทคนิคในระบบยุติธรรมและความไม่เห็นด้วยกับคำศัพท์หลายคำที่ใช้เพื่อหารือเกี่ยวกับเสียง Deepfakes-คำเช่น "สังเคราะห์" และ "ของแท้" ภูมิทัศน์ทางเทคนิคที่เปลี่ยนแปลงไม่ได้จ่ายเงินให้กับการปรับตัวของหน่วยงานกำกับดูแลที่ช้าลง
วิลเลียมส์และทีมงานของเธอที่มหาวิทยาลัยเซาแธมป์ตันได้สร้างระบบสำหรับการตรวจจับ Deepfake ที่เรียกว่าปลอดภัยและมีเสียง(ผู้ประเมินนิติวิทยาศาสตร์เสียงเซาแธมป์ตัน) ซึ่งต้องใช้เสียงเพียงหนึ่งวินาทีเพื่อให้การตัดสินใจแบบจำลองที่แม่นยำและอธิบายได้สูง มันรวมรูปแบบการรับรู้ของมนุษย์แบบจำลองทางเดินเสียงโมเดลเสียงพูดอารมณ์ความทนทานเสียงรบกวนสภาพแวดล้อมอะคูสติกและเครื่องตรวจจับความผิดปกติความถี่สูง การออกแบบที่ชาญฉลาดมีจุดมุ่งหมายที่จะใช้งานง่ายใช้งานง่ายปรับขนาดได้สำหรับข้อมูลจำนวนมากและใช้งานได้กับกรณีการใช้งาน
'ตอนนี้เป็นช่วงเวลาสำคัญ แชท GPT มีอายุเพียงสองปี '': Benoit Fauve
Benoit Fauve ของ บริษัท Biometrics Voiceยังดูที่ข้อควรพิจารณาที่ใหญ่กว่าเกี่ยวกับเสียง Deepfakes เขาติดตามวิวัฒนาการของเสียง Deepfakes จากวิธีการปลอมแปลงช่วงต้นจนถึงจุดเริ่มต้นของยุค Deepfake และในช่วงกลางปี 2010 คำว่า "Deepfake" ได้รับการประกาศเกียรติคุณใน Reddit ในปี 2560 ตั้งแต่นั้นมามันเป็นเส้นโค้งที่เพิ่มขึ้นอย่างต่อเนื่องของการพัฒนาและการลงทุนใน Deepfakes และวิธีการต่อสู้กับพวกเขา
ช่วงเวลาปัจจุบันซึ่ง AI Generative ได้เปิดใช้งานเสียงดังลึกของเสียงเป็นกุญแจสำคัญ Fauve กล่าว แต่เช่นเดียวกับวิลเลียมส์เขาเน้นว่าบางภาษาจะต้องไม่ถูกขัดขวางเพื่อให้บรรลุท่าป้องกันที่แข็งแกร่งที่สุดและการรู้หนังสือเกี่ยวกับ deepfakes เป็นส่วนสำคัญของสมการ
'เราอยู่ที่นี่เพื่อสร้างระบบที่มีจริยธรรมและปลอดภัย': Luke Arrigoni
Luke Arrigoni ผู้ก่อตั้ง Digital Lamence Protection Technology Startupมุ่งเน้นธุรกิจของเขาในการออกใบอนุญาตออนไลน์และการป้องกันสำหรับบุคคลสาธารณะ เขาบอกว่า Loti Watchtower รวมการป้องกันการจดจำใบหน้า (การจับกุมของ Deepfakes ที่ไม่ได้รับอนุญาต ฯลฯ ) และความผิด - เช่นนั้นเช่นสัญญาสำหรับการเป็นตัวแทนของความสามารถ AI ที่จะปรากฏในโฆษณาได้รับการออกแบบมาเพื่อประโยชน์ของความสามารถ
แต่ถ้ามีข้อความที่ครอบคลุมจากการประชุมเชิงปฏิบัติการมันก็คือ Deepfakes จะส่งผลกระทบต่อทุกคนในไม่ช้าหากพวกเขายังไม่ได้ เทคโนโลยีกำลังดำเนินไปและวิธีการตรวจจับกำลังดิ้นรนเพื่อให้ทัน ล้อแฮมสเตอร์ยังคงกลิ้ง การแข่งขันหนู Deepfake ยังคงดำเนินต่อไป
หัวข้อบทความ
-----------
