ผู้เชี่ยวชาญระบุ การบังคับใช้การตรวจจับสื่อลามกอนาจารเด็กจะไม่ได้ผลพอๆ กับการเป็นอันตราย

ในวันจันทร์ที่ 23 ตุลาคม ผู้เชี่ยวชาญประมาณ 15 คนจากสาขาต่างๆ ได้มาพบกันที่รัฐสภายุโรปภายใต้การดูแลของ European Data Protection Supervisor (EDPS) เป็นเวลากว่าสองชั่วโมงที่ผู้เชี่ยวชาญเหล่านี้ได้วิเคราะห์กฎระเบียบของยุโรปในอนาคตที่มุ่งต่อสู้กับสื่อลามกอนาจารเด็ก และโดยเฉพาะอย่างยิ่งมาตรการที่ทำให้เกิดความขัดแย้ง ซึ่งบางครั้งเรียกว่า "การควบคุมการแชท" สำหรับ EDPS ข้อสรุปนั้นชัดเจน: มี "ฉันทามติที่กว้างมากและเกือบจะไม่เคยมีมาก่อน" ในหมู่ผู้เชี่ยวชาญ ตามที่พวกเขากล่าว การกำหนดให้แพลตฟอร์มตรวจจับเนื้อหาลามกอนาจารเด็ก รวมถึงการส่งข้อความที่เข้ารหัสนั้น จะ “ไม่มีประสิทธิภาพหรือเป็นอันตราย”

มาตรการที่จะเปลี่ยนแปลงเว็บและประชาธิปไตยของเราไปตลอดกาล: ในวันจันทร์ที่ 23 ตุลาคม การสัมมนาจัดขึ้นโดย European Data Protection Supervisor (EDPS) ซึ่งมีชื่อว่า “จุดที่ไม่มีทางหวนกลับเหรอ?- เป็นเวลากว่าสองชั่วโมงที่ผู้เชี่ยวชาญต่างๆ ผลัดกันแสดงความคิดเห็นเกี่ยวกับมาตรการที่ก่อให้เกิดข้อขัดแย้งในกฎระเบียบในอนาคตที่มุ่งเป้าไปที่การยุติการล่วงละเมิดทางเพศเด็ก“CSAR” (สำหรับ “กฎระเบียบการล่วงละเมิดทางเพศเด็ก-- หากมีการนำกฎระเบียบในอนาคตมาใช้ก็จะบังคับแพลตฟอร์มและการส่งข้อความ รวมถึงการเข้ารหัส เพื่อตรวจจับและรายงานต่อเจ้าหน้าที่เนื้อหาภาพอนาจารเด็ก(เรียกว่า "สื่อการล่วงละเมิดทางเพศเด็ก» หรือ CSAM)

ภาระผูกพันใหม่นี้ บางครั้งเรียกว่า “การควบคุมการแชท” – การควบคุมการสนทนา –ทำให้เกิดความขัดแย้งตั้งแต่ต้น- ตามที่ผู้เชี่ยวชาญหลายคนกล่าวว่ามันจะอ่อนแอลงหรือยุติลงการเข้ารหัสข้อความที่เข้ารหัสเช่น WhatsApp, Signal หรือ Telegram บนแพลตฟอร์มเหล่านี้ เฉพาะผู้รับและผู้ส่งและผู้ถือคีย์เท่านั้นที่สามารถเข้าถึงเนื้อหาที่แลกเปลี่ยนกัน ทั้งตัวบริการส่งข้อความและตำรวจไม่สามารถทราบเรื่องนี้ได้ แม้ว่าจะเกี่ยวข้องกับกลุ่มอาชญากร การก่อการร้าย หรือสื่อลามกอนาจารเด็กก็ตาม การกำจัดการเข้ารหัสและบังคับให้บริษัทต่างๆ ดำเนินการตรวจจับอัตโนมัติ กฎระเบียบดังกล่าวอาจนำไปสู่การเฝ้าระวังการสื่อสารทั้งหมดของเราอย่างกว้างขวาง ผู้สนับสนุนความเป็นส่วนตัวได้เตือน

มาตรการ “ไม่ได้ผลและเป็นอันตราย”

สำหรับ EDPS จึงเป็นเรื่องของหน่วยงานอิสระที่รับผิดชอบในการติดตามวิธีที่สถาบันต่างๆ ในยุโรป เช่น คณะกรรมาธิการยุโรป ปกป้องข้อมูล โดยรวบรวมผู้เชี่ยวชาญจากสาขาต่างๆ และเปรียบเทียบมุมมอง หนึ่งปีก่อนหน้านี้ EDPS และ European CNILS ได้มีความเห็นร่วมกันแล้วว่าร่างกฎระเบียบ “ทำให้เกิดความกังวลเรื่องการปกป้องข้อมูลและความเป็นส่วนตัวอย่างจริงจัง- ในช่วงท้ายของการสัมมนาในวันที่ 23 ตุลาคม ผู้ควบคุมกำลังดำเนินการต่อไป เขาสรุปว่ามีและ "ฉันทามติที่กว้างมากและเกือบจะไม่เคยเกิดขึ้นมาก่อนระหว่าง-หน่วยงานคุ้มครองข้อมูล ผู้เชี่ยวชาญด้านกฎหมาย นักวิชาการ อุตสาหกรรม ภาคประชาสังคม ผู้บัญญัติกฎหมายระดับประเทศ และหน่วยงานบังคับใช้กฎหมาย-

บังคับให้สแกนอีเมลทั้งหมดจะเป็น "ไม่เพียงแต่ไม่ได้ผลเท่านั้น แต่ยังเป็นอันตรายอีกด้วย- มาตรการดังกล่าวจะตั้งคำถามถึงรากฐาน [ของชีวิตส่วนตัว] ซึ่งเมื่อสั่นคลอนแล้วจะนำไปสู่การเปลี่ยนแปลงครั้งใหญ่ซึ่งเราไม่สามารถกลับมาได้”Wojciech Wiewiórowski ผู้ดูแลการปกป้องข้อมูลของยุโรป ตื่นตระหนกระหว่างการสัมมนา

https://twitter.com/EU_EDPS/status/1716458216140185843

จุดที่ไม่สามารถหวนกลับ? จุดที่ไม่มีทางหวนกลับ

ในรูปแบบปัจจุบัน เขียนโดย European Supervisor ในบันทึกข้อมูลของเขาที่เผยแพร่เมื่อวันที่ 23 ตุลาคม “ข้อเสนอของ CSAM จะเปลี่ยนอินเทอร์เน็ตและการสื่อสารดิจิทัลโดยพื้นฐานดังที่เราทราบ นี่คงเป็นจุดที่ไม่อาจหวนกลับได้- องค์กรอิสระหวังว่าเสียงของผู้เชี่ยวชาญที่พูดในวันจันทร์นี้จะไปถึงหูของคณะกรรมาธิการยุโรปในที่สุด Ylva Johansson กรรมาธิการยุโรปที่อยู่เบื้องหลังกฎระเบียบ ได้รับเชิญให้พูดในการสัมมนานี้ ซึ่งจัดขึ้นภายในรัฐสภายุโรป แต่อย่างหลังนั้นเต็มไปด้วยความขัดแย้งต่างๆไม่ตอบสนองต่อคำเชิญ ระบุผู้ควบคุมชาวยุโรป

อ่านเพิ่มเติม:การโฆษณาแบบกำหนดเป้าหมายขนาดเล็ก: เพื่อปกป้องร่างกฎระเบียบว่าด้วยการคุ้มครองผู้เยาว์ (CSAR) คณะกรรมาธิการยุโรปไปไกลเกินไปหรือไม่

ในระหว่างการสัมมนา มีประเด็นสามประเด็นที่สรุปข้อกังวลและการวิพากษ์วิจารณ์ของผู้เชี่ยวชาญ ได้แก่ ความไร้ประสิทธิภาพ ความเป็นไปไม่ได้ทางเทคนิค และความเสี่ยงของการสอดแนมในวงกว้าง พร้อมด้วยผลที่ตามมาที่น่าตกใจสำหรับสิทธิขั้นพื้นฐานของเรา

มาตรการตรวจจับที่หลีกเลี่ยงได้ง่าย

ผู้เชี่ยวชาญอธิบายก่อนว่าการสแกนทั่วไปเพื่อระบุเนื้อหาภาพอนาจารเด็กจะไม่ให้ความคุ้มครองเด็กมากขึ้น ด้วยเหตุผลง่ายๆ มาตรการตรวจจับที่จะนำมาใช้สามารถหลีกเลี่ยงได้อย่างง่ายดาย โดยศาสตราจารย์และผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ Bart Preneel จากมหาวิทยาลัย Louvain ในเบลเยียม ที่ถูกเรียกคืน

-เมื่อคุณรู้ว่า AI กำลังมองหาอะไรก็สามารถข้ามมันไปได้และคุณยังสามารถใช้ AI เพื่อหลีกเลี่ยง AI ได้อีกด้วย ดังนั้นจะมีการแข่งขันระหว่างเครื่องมือ AI- ใครจะชนะ? อาจเป็นคนที่พยายามหลีกเลี่ยงการสแกนอัตโนมัติ Bart Preneel ตอบ

ผลบวกลวงมีมากมาย

ปัญหาที่สองที่เกิดขึ้น: ระบบการตรวจจับประเภทนี้จะไม่น่าเชื่อถือ เนื่องจากจะสร้างผลบวกลวง -เทคโนโลยีนี้ไม่ได้ปราศจากข้อผิดพลาด แต่เรากำลังพูดถึงการสื่อสารนับพันล้านรายการทุกวัน», ขีดเส้นใต้Alexander Hanff นักวิทยาศาสตร์คอมพิวเตอร์และผู้เชี่ยวชาญด้านความเป็นส่วนตัว -แม้ว่าเราจะมีอัตราข้อผิดพลาด 0.1% แต่นั่นก็คือผลบวกลวงหรือผลลบลวงนับล้านทุกวัน ซึ่งไม่ใช่สิ่งที่เรายอมรับได้ในระบอบประชาธิปไตย-

ผลบวกลวงเหล่านี้เสี่ยงต่อบริการสืบสวนน้ำท่วมซึ่งอยู่ใต้น้ำแล้ว ความยากเพิ่มเติม การตรวจจับจะไม่จำกัดอยู่เพียงเนื้อหาภาพอนาจารเด็ก (เช่น รูปภาพหรือรูปภาพ) นอกจากนี้ยังควรนำไปใช้กับ "การดูแล" ซึ่งเป็นคำที่กำหนดการกระทำด้วยผู้ใหญ่ เพื่อค้นหาผู้เยาว์ทางออนไลน์เพื่อจุดประสงค์ทางเพศ หรือเพื่อการผลิตเนื้อหาลามกอนาจารเด็ก อย่างไรก็ตาม เทคโนโลยีนี้จะแยกแยะระหว่างผู้เยาว์ที่แลกเปลี่ยนเซ็กส์กับผู้เยาว์ที่ตกอยู่ในอันตรายจากการลวนลามเด็กได้อย่างไร

-จำเป็นต้องแยกแยะความแตกต่างระหว่างเนื้อหาที่ถูกกฎหมายและเนื้อหาที่ผิดกฎหมายด้วย AI ซึ่งจะเป็นเรื่องยากมากที่จะทำ”ยกย่องศาสตราจารย์บาร์ต พรีนีล“เป็นตัวอย่างง่ายๆ ในที่สุดมันก็จำเป็นต้องทำมีวิธีที่เชื่อถือได้ในการตรวจสอบอายุ และฉันคิดว่านั่นเป็นเรื่องยากมากที่จะทำ เว้นแต่เราจะกำหนดให้ทุกคนเข้าสู่ระบบด้วยข้อมูลประจำตัวที่รัฐจัดทำ ซึ่งแน่นอนว่าทำให้เกิดคำถามอื่นๆ อีกมากมาย» เขากล่าวเสริม

ในความสมดุลของความเสี่ยงและผลประโยชน์ บัญชีจะไม่อยู่ที่นั่น อธิบายผู้เชี่ยวชาญที่สัมภาษณ์ ในด้านหนึ่ง ประชาชนจะถูกเฝ้าติดตามมากกว่ามาก ในทางกลับกัน เด็กๆ ก็ไม่ปลอดภัยอีกต่อไป

ความเป็นไปไม่ได้ทางเทคนิค

ความท้าทายอีกประการหนึ่งที่เกิดจากกฎระเบียบที่เสนอ: ในทางเทคนิคแล้ว เป็นไปไม่ได้ที่จะวิเคราะห์เนื้อหาของการสนทนาโดยไม่ทำให้การเข้ารหัสจากต้นทางถึงปลายทางอ่อนลง และไม่ละเมิดความเป็นส่วนตัวของผู้ใช้ -นี่เป็นข้อสรุปที่ชัดเจนของนักวิทยาศาสตร์และนักวิจัยชั้นนำหลายร้อยคนในสาขานี้ และผู้เชี่ยวชาญหลายคนเห็นพ้องกันว่าโซลูชันเทคโนโลยีการตรวจจับที่ทันสมัยในปัจจุบันไม่น่าเชื่อถือเพียงพอ และยังเสี่ยงต่อการโจมตีทางไซเบอร์อีกด้วย», ประมาณการตัวควบคุม

สิ่งนี้ได้รับการอธิบายโดย Claudia Peersman นักวิจัยซึ่งเป็นส่วนหนึ่งของกลุ่มผู้เชี่ยวชาญที่รับผิดชอบในสหราชอาณาจักร สำหรับการประเมินระบบที่ควรสแกนข้อความที่เข้ารหัสโดยไม่กระทบต่อความเป็นส่วนตัวของผู้คน อย่างไรก็ตาม ตามหลังนี้ “ไม่มีเครื่องมือใดที่สามารถตอบสนองได้ (เกณฑ์ของเรา) (…) เราเพียงเชื่อว่าเครื่องมือเหล่านี้ไม่พร้อมที่จะปรับใช้ในข้อความส่วนตัวขนาดใหญ่ ภายในสภาพแวดล้อมที่เข้ารหัสตั้งแต่ต้นทางถึงปลายทาง-

สุดท้ายนี้ การสแกนการสื่อสารทั้งหมดของเราอย่างกว้างขวางจะทำให้เกิดความรู้สึกว่าถูกสอดส่องอย่างต่อเนื่อง ซึ่งจะส่งผลต่อสิทธิขั้นพื้นฐานของเรา วัยรุ่นหรือวัยรุ่นจำนวนมากอาจล้มเลิกความเป็นอยู่เคลื่อนไหวทางการเมือง เพื่อรณรงค์ หรือสำรวจเรื่องเพศของพวกเขา หากทางการสามารถตรวจสอบการสื่อสารดิจิทัลของพวกเขาได้

“ความเป็นส่วนตัวไม่ใช่ทางเลือก แต่เป็นประตูสำคัญสู่สิทธิขั้นพื้นฐานอื่นๆ ทั้งหมดของเรา”

อย่างไรก็ตาม Ella Jakubowska ผู้จัดการโครงการของ NGO European Digital Rights (EDRi) เล่าว่า “ความเป็นส่วนตัวไม่ใช่ทางเลือก แต่เป็นประตูสำคัญสู่สิทธิขั้นพื้นฐานอื่นๆ ทั้งหมดของเรา-หลักความเคารพต่อชีวิตส่วนตัวนี้เองที่”ช่วยให้คุณเพลิดเพลินกับสิทธิอื่นๆ (...) เช่น สามารถแสดงบุคลิกภาพ อัตลักษณ์ และความเชื่อของคุณเองได้ จากหลักการนี้เองที่ทำให้ความสามารถของเราในการลงทุนในชีวิตทางการเมือง เศรษฐกิจ สังคม และวัฒนธรรมเกิดขึ้น- ประการหลัง ไม่จำเป็นต้องต่อต้านความเป็นส่วนตัวและความปลอดภัย ดังที่คณะกรรมาธิการยุโรปทำในข้อเสนอ เธอเสริมว่ามันไม่ได้เกี่ยวกับการสละความเป็นส่วนตัวเพื่อปกป้องเด็กๆ ให้ปลอดภัย

การใช้เทคโนโลยีประเภทนี้ก็หมายความว่าจะมีการรวบรวมข้อมูลจำนวนมาก เราจะแน่ใจได้อย่างไรว่าการตรวจจับนั้นจำกัดอยู่เพียงเนื้อหาภาพอนาจารเด็ก นี่เป็นคำถามที่ไม่มีใครรู้วิธีตอบผู้เชี่ยวชาญอธิบาย และในวงกว้างมากขึ้น สหภาพยุโรปและประเทศสมาชิกพร้อมที่จะยอมรับการสอดแนมการสื่อสารจำนวนมากหรือไม่? พวกเขาพร้อมที่จะเบลอเส้นแบ่งระหว่างประเทศประชาธิปไตยและระบอบเผด็จการแล้วหรือยัง ถามผู้ควบคุม

ในด้านสถาบันในยุโรป ยังไม่มีคำตอบสำหรับคำถามเหล่านี้นับตั้งแต่สิ้นสุดการสัมมนา แต่เส้นอาจเคลื่อนไหวได้ในวันที่ 25 ตุลาคมนี้ ในวันพุธนี้ สมาชิกคณะกรรมการเสรีภาพพลเมืองของรัฐสภายุโรปมีกำหนดถามคำถามต่ออิลวา โยฮันสัน กรรมาธิการยุโรป และครั้งนี้นักการเมืองจะไม่สามารถปฏิเสธคำเชิญได้