หน่วยงานที่ปรึกษาซึ่งมีหน้าที่ของการให้คำปรึกษาแก่รัฐบาลในเรื่องสิทธิมนุษยชนประเด็นปัญหาเกี่ยวกับการทดลองการเฝ้าระวังวิดีโออัลกอริทึม (VSA) ในระหว่างการแข่งขันกีฬาโอลิมปิกปารีสและจนถึงเดือนมีนาคม สำหรับ CNCDH หน่วยงานสาธารณะจะต้องเรียกคืน "ความสมดุลที่แตกสลาย" "ระหว่างความเสียหายต่อสิทธิขั้นพื้นฐานและเสรีภาพและการปกป้องความสงบเรียบร้อยของประชาชน" มันคือ“ การเลือกสังคมของเรา” เธอตื่นตระหนก
การค้ำประกันไม่เพียงพอหน่วยควบคุมที่จะเสริมสร้างความเข้มแข็งทางเลือกของ บริษัท ... ในความเห็นที่ตีพิมพ์ในวารสารอย่างเป็นทางการในวันอังคารที่ 2 กรกฎาคมทำให้ออนไลน์สิบวันก่อนหน้านี้บนเว็บไซต์ของตนคือคณะกรรมาธิการสิทธิมนุษยชนแห่งชาติ (CNCDH) ซึ่งเป็นหน่วยงาน ให้คำแนะนำแก่รัฐบาลฝรั่งเศสในแง่ของสิทธิมนุษยชนดึงลูกบอลสีแดงในระบบปัจจุบันของVSA, การเฝ้าระวังวิดีโอเจือด้วยอัลกอริทึม-
ในขณะที่กล้องเพิ่มที่ AIมีประสบการณ์ก่อนระหว่างและหลังการแข่งขันกีฬาโอลิมปิกปารีสเหตุการณ์ที่มีความหมายเหมือนกันกับ "การปรับใช้ VSA ที่สำคัญยิ่งขึ้น», CNCDH ดึงการประเมินที่สำคัญของการรับประกันในปัจจุบันของอุปกรณ์เฝ้าระวังวิดีโอ เพื่อเป็นการเตือนความจำ VSA ได้รับอนุญาตเป็นครั้งแรกในฝรั่งเศส (ครั้งแรกในยุโรป) กับกฎหมายที่เกี่ยวข้องกับการแข่งขันกีฬาโอลิมปิกปารีสเมื่อวันที่ 19 พฤษภาคม 2566: ได้รับอนุญาตจนถึงเดือนมีนาคม 2568 เป็นการทดลอง ในความเห็นที่ปรึกษาของเขาหน่วยงานอิสระออกคำแนะนำหลายชุดเพื่อเรียกคืน"ความสมดุลที่สมดุล" "ระหว่างการละเมิดสิทธิขั้นพื้นฐานและเสรีภาพและการปกป้องความสงบเรียบร้อยของประชาชน"
เธอยังถามด้วยว่า "หน่วยงานสาธารณะพิจารณาความปรารถนาที่จะเร่งการใช้งานอุปกรณ์ป้องกันวิดีโอ"อธิบาย"ชักชวนองค์กรของการอภิปรายประชาธิปไตยที่เกี่ยวข้องกับการใช้การเฝ้าระวังวิดีโออัลกอริทึม»ร่วมกับ CNIL, French French of Private Life
อ่านเพิ่มเติม:กล้องวงจรปิด“ อัจฉริยะ” สำหรับการแข่งขันกีฬาโอลิมปิก: ทำไมกฎหมายถึงมีปัญหา?
ระบบการเฝ้าระวังการมีส่วนร่วมของนักแสดงเอกชนในภารกิจอธิปไตย ...
ตั้งแต่ช่วงปลายยุค 90 กล้องวงจรปิดได้ถูกนำไปใช้ในพื้นที่สาธารณะก่อนที่จะเป็นเรื่องเล็กน้อย CNCDH ได้อธิบาย อำนาจนี้จำได้ว่า "เทคโนโลยีตำรวจนี้ควรได้รับอนุญาตเฉพาะในขอบเขตที่เข้มงวดของสถานที่เวลาและวัตถุประสงค์รับประกันโดยการควบคุมที่มีประสิทธิภาพของการติดตั้งและการดำเนินการของพวกเขา- ในการใช้งานนี้ได้เพิ่มปัญญาประดิษฐ์ (AI) ซึ่งรับผิดชอบในการตรวจจับพฤติกรรม "ผิดปกติในฐานะที่เป็นขบวนการฝูงชนความหนาแน่นสูงผิดปกติหรือการปรากฏตัวของภูมิหลังที่ถูกทอดทิ้ง
เทคโนโลยีล่าสุดนี้ "เป็นส่วนหนึ่งของความต่อเนื่องของการป้องกันวิดีโอและในเวลาเดียวกัน (มัน) ดูเหมือนว่าจะเปลี่ยนธรรมชาติของมัน», หมายเหตุ L'Anstitute Consultative l'ia «ในความเป็นจริงช่วยให้การจัดระบบและการเพิ่มความเข้มข้นของการเฝ้าระวังในมือข้างหนึ่งและในทางกลับกันการมีส่วนร่วมอย่างไม่เคยปรากฏมาก่อนของนักแสดงส่วนตัว - นักออกแบบซอฟต์แวร์ - ในการใช้ภารกิจอธิปไตยเธอเพิ่ม รัฐได้เรียกร้องให้ บริษัท เอกชนออกแบบอัลกอริทึมที่ใช้ในเครื่องมือเฝ้าระวังวิดีโอเหล่านี้กระเป๋าเอกสาร-
ปัญหาอื่นที่บันทึกไว้โดยอวัยวะนี้: "ระบบเฝ้าระวังวิดีโอที่ได้รับการปรับปรุงใหม่นี้" สามารถ "ชักชวนความสัมพันธ์แบบใหม่ระหว่างตำรวจและประชากรโดดเด่นด้วยความไม่ไว้วางใจและระยะทาง- CES «เทคโนโลยีใหม่ฟื้นความกลัวในการตั้งคำถามถึงความเป็นไปได้สำหรับทุกคนที่จะใช้สิทธิขั้นพื้นฐานและเสรีภาพรวมถึงเสรีภาพในการแสดงให้เห็นในพื้นที่สาธารณะโดยไม่ระบุชื่อ"เขาเขียน
การพัฒนา VSA ในบริบทของ "การออกกฎหมาย-
สถาบันที่ปรึกษาซึ่งตั้งข้อสังเกตว่า VSA นี้ได้พัฒนาในบริบทของ "การออกกฎหมาย"ขอให้รัฐบาล"ตรงกับข้อกำหนดของความจำเป็นและสัดส่วนที่เป็นหัวใจของความถูกต้องตามกฎหมายของอุปกรณ์เหล่านี้ที่โจมตีสิทธิขั้นพื้นฐานและเสรีภาพยิ่งกว่านั้นเมื่อมีการเพิ่มปัญญาประดิษฐ์มากขึ้น-
โดยหลักการแล้วกล้องไม่ควรใช้งานได้ตลอดเวลาของวันและตลอดเวลาของปีเธอขอร้อง หากคำขอสำหรับการติดตั้งอุปกรณ์เหล่านี้จะต้องถูกส่งไปยังนายอำเภอควร "เปิดเผยความเสี่ยงของความผิดปกติของความสงบเรียบร้อยซึ่งแสดงให้เห็นถึงการขอความช่วยเหลือเช่นนี้ การปฏิบัติตามข้อกำหนดเหล่านี้สำหรับความจำเป็นและสัดส่วนควรอยู่ภายใต้การควบคุมอิสระอย่างเป็นระบบ, CNCDH ดำเนินการต่อวันนี้การแทรกแซงของผู้พิพากษาฝ่ายบริหารนั้นขึ้นอยู่กับการกระทำการเชื่อมโยงเพื่อการป้องกันสิทธิที่มีประสิทธิภาพของระบบเป็นไปตามเธอเสียใจ
ต้องมีอำนาจในการควบคุมการป้องกันวิดีโอของแผนกและค่าคอมมิชชั่น CNIL
หน่วยงานที่ปรึกษาแนะนำให้เสริมสร้างพลังของหน่วยงานควบคุมการรับประกันที่วางแผนไว้ในปัจจุบันถือว่าไม่เพียงพอ เริ่มต้นด้วยค่าคอมมิชชั่นการป้องกันวิดีโอของแผนกซึ่งได้รับการออกแบบในขั้นต้นว่าเป็นพลัง แต่ในความเป็นจริงแล้วการกระทำนั้นจะมากกว่า จำกัด หลังจะได้รับการปรึกษาโดยนายอำเภอก่อนที่เขาจะตัดสินใจอนุญาตหรือปฏิเสธคำขอการติดตั้ง แต่ความคิดเห็นของพวกเขาเป็นคำแนะนำอย่างหมดจด CNIL ซึ่งเป็นหน่วยควบคุมอื่นอยู่ไกลจากการมีทรัพยากรมนุษย์เพียงพอซึ่งจะทำให้สามารถตรวจสอบด้านหลังกับเทศบาลทั้งหมดได้
สถาบันจึงแนะนำให้เสริมสร้างภารกิจในการควบคุมร่างกายทั้งสองนี้โดยการแสดงผลตัวอย่างเช่นความคิดเห็นของค่าคอมมิชชั่นเหล่านี้ผูกพัน- องค์ประกอบของหลังควรได้รับการแก้ไขโดยเฉพาะอย่างยิ่งเพื่อรวมบุคคลที่กำหนดโดยผู้พิทักษ์สิทธิ
ปัญหาของอคติ AI
ผู้มีอำนาจมุ่งเน้นไปที่ VSA โดยเฉพาะโดยการสังเกตปัญหาของอคติประเภทต่าง ๆ ของเครื่องมืออัลกอริทึม ในความเป็นจริงอุปกรณ์เหล่านี้ถูกดึงเข้าไปในภาพที่ชายผิวขาวมีความเป็นตัวแทนมากขึ้นซึ่งอาจส่งผลกระทบด้านลบต่อคนที่มีตัวแทนน้อยกว่า -กล่าวอีกนัยหนึ่งซอฟต์แวร์กำลังทำผิดพลาดมากขึ้นสำหรับการระบุผู้คนเชื้อสายแอฟริกันและยิ่งกว่านั้นเมื่อพูดถึงผู้หญิง”กับ"อันเป็นผลมาจากการจับกุม (ศักยภาพ) ของบุคคลที่ถูกระบุว่าเป็นบุคคลที่ต้องการ", หมายเหตุ L'Anstants
ปัญหาคือวันนี้ "การควบคุมอคติในปัจจุบันเป็นคำสาบานเธอเสียใจ แทบจะเป็นไปไม่ได้เลยที่จะระบุอคติที่เก็บรักษาไว้โดยเครื่องในระหว่างการฝึกงาน CNCDH ถามว่า "ผู้ใช้ซอฟต์แวร์ VSA ใด ๆ ช่วยให้มั่นใจได้ว่าลักษณะที่ไม่เลือกปฏิบัติของหลังและถ้าไม่ว่าเขาใช้มาตรการทั้งหมดที่สามารถแก้ไขได้-
การควบคุมตัวแทนมนุษย์ไม่เพียงพอ
การป้องกันอีกอย่างหนึ่งที่จัดเตรียมไว้สำหรับการทดลองกับ VSA ถือว่าไม่เพียงพอโดยคณะกรรมการที่ปรึกษา กฎหมายของฝรั่งเศสระบุว่าซอฟต์แวร์ควบคู่ไปกับกล้องวงจรปิด "ยังคงอยู่ภายใต้การควบคุมอย่างถาวร»ของตัวแทนมนุษย์ แต่ตัวแทนมนุษย์จะอยู่ในตำแหน่งของผู้บริหารสิ่งที่คอนโทรลเลอร์กำลังเผชิญกับเครื่องประมาณ CNCDH โดยเฉพาะอย่างยิ่งในมุมมองของ "ความโน้มเอียงของทุกคนในการปฏิบัติตามคำแนะนำหรือการแจ้งเตือนที่ผลิตโดยโปรแกรมคอมพิวเตอร์ (บางครั้งเรียกว่า "Automation Bias")- CNCDH แนะนำให้หน่วยงานสาธารณะสะท้อนถึงวิธีการรับประกันความเป็นอิสระของตัวแทนอย่างมีประสิทธิภาพเมื่อเผชิญกับการแจ้งเตือนของเครื่อง
ความวุ่นวายในเชิงลึกของความคิดของเราเกี่ยวกับพื้นที่สาธารณะ
มากกว่า "นอกเหนือจากการควบคุมข้อกำหนดของการใช้ VSA"มันคือ"หลักการของการใช้งานที่สมควรได้รับการสอบสวน "เขียนคณะกรรมการที่ปรึกษา ก่อนเพราะ "พลเมือง (โดยทั่วไป) ไม่ได้รับการเตือนในรายละเอียดของวัตถุและสถานการณ์ที่ตรวจพบโดย VSA- อุปกรณ์ประเภทนี้โดยปกติจะต้องมีการแจ้งให้บุคคลที่ถ่ายทำก่อนหน้านี้
ปัญหา: ตารางการแสดงผลควรเตือนผู้ใช้ถึงการมีอยู่ของ VSA บนทางหลวงสาธารณะไม่สามารถมองเห็นได้เพียงพอและไม่รวมข้อมูลที่เพียงพอเช่นวัตถุประสงค์ของอุปกรณ์คอนโทรลเลอร์ความเป็นไปได้ในการฝากการอุทธรณ์ CNIL บันทึกหน่วยงานที่ปรึกษา
หรือ, "(เครื่องมือเหล่านี้) ความเสี่ยงในการพัฒนาความรู้สึกที่เพิ่มขึ้นของการเฝ้าระวัง”และนี่ยังห่างไกลจากเรื่องเล็กน้อย:"การพัฒนาและการรับรู้เหล่านี้ทำให้ความคิดของเราเกี่ยวกับพื้นที่สาธารณะโดยการถอนมิติส่วนตัวใด ๆ- CNCDH จำได้ว่าพื้นที่สาธารณะมีจุดประสงค์เพื่อเป็นสถานที่ที่ไม่ระบุชื่อของการไหลเวียนซึ่งช่วยให้การใช้เสรีภาพและความเคารพต่อชีวิตส่วนตัว»เขียนสถาบันอิสระ
"สิ่งที่เล่นออกมาในที่สุดคือทางเลือกของสังคม"
โดยทั่วไปร่างกายเรียกร้องให้หน่วยงานสาธารณะพิจารณาความปรารถนาที่จะเร่งการปรับใช้อุปกรณ์ป้องกันวิดีโอ- il «เชื่อมโยงกับ CNIL เพื่อขอองค์กรการอภิปรายประชาธิปไตยที่เกี่ยวข้องกับการใช้ VSA- รถยนต์และ«การรับประกันความปลอดภัยสาธารณะเป็นวัตถุประสงค์ที่ถูกต้องตามกฎหมาย-อย่างไรก็ตามสิ่งนี้จะต้องก่อให้เกิดการตรวจสอบอย่างละเอียดโดยเริ่มจากข้อกำหนดในการลดการปรากฏตัวและผลกระทบของพวกเขาในพื้นที่สาธารณะ-
คำพูดของ CNCDH นั้นน่ารังเกียจเป็นพิเศษ: "สิ่งที่เล่นในที่สุดคือทางเลือกของสังคม: เพื่อให้แน่ใจว่าความเป็นอันดับหนึ่งของอิสรภาพร่างกายและจิตใจภายใต้ข้อ จำกัด ที่กำหนดโดยการปกป้องความสงบเรียบร้อยของประชาชนหรือในทางกลับกันทำให้ทางเลือกของเจ้าสาวโดยการตรวจสอบทั่วไปและอัตโนมัติ-
🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-
