แม้จะมีการแจ้งเตือนและการประเมินแบบ halftone แต่รัฐบาลต้องการขยายการเฝ้าระวังวิดีโอที่ AI

การทดลองของอัลกอริทึมการเฝ้าระวังวิดีโอ (VSA)ควรจะถูก จำกัด จนถึงวันที่ 31 มีนาคม 2568 กำลังจะขยายออกไปจนถึงเดือนธันวาคม 2570 หากรัฐบาลบาร์นีไม่ได้ซ่อนความตั้งใจที่จะขยายประสบการณ์ก่อนที่จะปรับลดระดับเมื่อปีที่แล้วรัฐบาลเบย์รูในสัปดาห์นี้

ผู้บริหารได้เพิ่มไฟล์การแก้ไขข้อเสนอด้านความปลอดภัยในการขนส่ง- ข้อความที่นำมาใช้ในวันอังคารที่ 11 กุมภาพันธ์ในตอนเย็นโดยสมัชชาแห่งชาติจะต้องยังคงได้รับแสงสีเขียวจากคณะกรรมการร่วมร่วม - คณะกรรมาธิการประกอบด้วยเจ้าหน้าที่เจ็ดคนและวุฒิสมาชิกเจ็ดคน ย้อนกลับไปในเรื่องที่ถกเถียงกันเรื่องนี้ซึ่งกระตุ้นการยกโล่ของผู้พิทักษ์สิทธิ แต่สิ่งที่ได้รับการปรบมือโดยรัฐมนตรีว่าการกระทรวงคมนาคมเช่นเดียวกับทุกคนที่พิจารณาเทคโนโลยีที่จำเป็นต่อความปลอดภัยของฝรั่งเศส

1. VSA นี้คืออะไร?

การเฝ้าระวังวิดีโอที่ AI ได้รับอนุญาตเป็นครั้งแรกในฝรั่งเศส - เป็นครั้งแรกในยุโรป - ตามกฎหมายที่เกี่ยวข้องกับการแข่งขันกีฬาโอลิมปิกเมื่อวันที่ 19 พฤษภาคม 2566 แม้จะมีสัญญาณเตือนของสมาคมหลายแห่งเพื่อการป้องกันสิทธิพลเมืองและนโยบาย-

อุปกรณ์ไม่อนุญาตให้มีการจดจำใบหน้า แต่ขึ้นอยู่กับการตรวจจับ "เหตุการณ์ผิดปกติ": อย่างเป็นรูปธรรมอัลกอริทึมจะวิเคราะห์ภาพที่ถ่ายโดยระบบเฝ้าระวังวิดีโอโดยอัตโนมัติ กล้องประกอบกับเครื่องมือตรวจจับอัลกอริทึมกลั่นกรองฝูงชนรวบรวมและวิเคราะห์ภาพก่อนที่จะแจ้งตำรวจหากมีการระบุ "พฤติกรรมที่ผิดปกติ" - สำหรับการกระทำหลังหรือไม่

"พฤติกรรมที่ผิดปกติ" เหล่านี้ถูกกำหนดไว้ในพระราชกฤษฎีกา ในระบบ VSA ปัจจุบันอัลกอริทึมสามารถตรวจจับเหตุการณ์ต่อไปนี้:

• ไฟออกไป;
• อาวุธปืน;
• การข้ามหรือการปรากฏตัวของบุคคลในพื้นที่ต้องห้ามหรืออ่อนไหว
• ความหนาแน่นของผู้คนมากเกินไป
• การเคลื่อนไหวของฝูงชน
• การปรากฏตัวของวัตถุที่ถูกทอดทิ้ง

2. แผนเดิมคืออะไร?

เดิมทีอุปกรณ์นี้ควรจะเป็นพิเศษ จำกัด อยู่ที่ความปลอดภัยของการแข่งขันกีฬาโอลิมปิกหลังจากความล้มเหลวของแชมเปี้ยนส์ลีกรอบชิงชนะเลิศที่ Stade de France ในเดือนพฤษภาคม 2566 แต่ในที่สุดมันก็ขยายออกไปหลังจากการแข่งขันระดับโลกจนถึงเดือนมีนาคม 2568 . ข้อความที่นำมาใช้แสดงให้เห็นว่าการใช้กล้องจะเป็นไปได้สำหรับเหตุการณ์อื่น ๆ เช่น "กิจกรรมกีฬาสันทนาการหรือวัฒนธรรม" WHO, "ตามขนาดหรือสถานการณ์ของพวกเขามีความเสี่ยงต่อการกระทำของการก่อการร้ายหรือความเสียหายร้ายแรงต่อความปลอดภัยของผู้คน-

การทดลองได้รับการวางแผนด้วยการป้องกันมากมาย ในเวลาที่ จำกัด ควรอยู่ภายใต้รายงานการประเมินผลการประเมินการใช้งานนี้ก่อนที่จะมีการอภิปรายเกิดขึ้นในส่วนขยายที่เป็นไปได้

ในปี 2566 สภารัฐธรรมนูญคาดการณ์ว่าโครงการใด ๆ ที่จะรักษาระบบควรได้รับการตรวจสอบอีกครั้งโดยการดูแลผลของการประเมินผลที่ต้องทำให้สมดุลในทิศทางเดียวหรืออื่น ๆ

แต่ในทางปฏิบัติผู้พิทักษ์เทคโนโลยีนี้ไม่ได้รอการประเมินผลเพื่อตัดสินใจในความโปรดปรานของระบบ ฤดูร้อนปีที่แล้วลอเรนต์นูเนซนายอำเภอตำรวจปารีสเรียกร้องให้เขาพัฒนาอย่างยั่งยืน เช่นเดียวกับ Michel Barnier จากนั้นนายกรัฐมนตรีและเมื่อไม่นานมานี้Philippe Tabarot (LR) รัฐมนตรีว่าการกระทรวงคมนาคมและผู้แต่งบิล เมื่อเดือนมกราคมที่ผ่านมาคำอธิบายก่อนรายงานการประเมินผลเทคโนโลยีนั้นมี "ค่อนข้างทำงานได้ดีมาก"และเธอ"อนุญาตให้ (AIT) ประหยัดเวลาที่บ้าคลั่ง- เขาประเมินในหน้าของเกี่ยวกับปารีสที่เขานับ "ทำให้กล้องและอัลกอริธึม“ อัจฉริยะ” และอัลกอริทึมการวิเคราะห์เป็นไปได้ที่จะทำให้สามารถตรวจจับการเคลื่อนไหวที่ผิดปกติได้ในฝูงชน-

3. การทดลองเกิดขึ้นได้อย่างไรในทางปฏิบัติ?

ในทางปฏิบัติการทดลอง VSA มีข้อ จำกัด ในช่วงไม่กี่เดือนที่ผ่านมา มีเพียงซอฟต์แวร์ตรวจจับของ CityVision ของ Wintics เท่านั้นที่ใช้โดยสี่องค์กร: Police Police (PP), Régie des Transports Parisien (RATP), บริษัท ขนส่งแห่งชาติ (SNCF) และเมืองคานส์

หากหลังไม่ได้พัฒนาต่อสาธารณชนเกี่ยวกับวิธีการทดลองที่เกิดขึ้นรายงานที่เขียนโดยคณะกรรมการประเมินผลทำให้เรารู้เพิ่มเติมเล็กน้อย

4. คณะกรรมการประเมินผลสรุปอะไร?

คณะกรรมการนี้จัดทำโดยกฎหมายว่าด้วยการแข่งขันกีฬาโอลิมปิกในปารีส: มันคือการกลับมาประเมินผลของรัฐบาลก่อนวันที่ 31 ธันวาคม 2567 หากได้ให้งบดุลในช่วงกลางเดือนมกราคม-เอกสารเผยแพร่สู่สาธารณะเมื่อวันที่ 7 กุมภาพันธ์- มันยังห่างไกลจากการเป็นคนผิวขาว เอกสารดึงการประเมินแบบ Halftone ก่อนอื่นเพราะครึ่งหนึ่งของสถานการณ์ที่ควรตรวจพบได้ถูกวางไว้

สถานการณ์ทั้งสามที่เครื่องมือต้องตรวจจับ ได้แก่ การออกจากไฟการตกของผู้คนหรือการตรวจจับอาวุธปืนไม่ได้ถูกทดสอบโดย RATP หรือ SNCF การตรวจคัดกรองอาวุธได้รับการทดสอบในเมืองคานส์ แต่ก็ไม่ประสบความสำเร็จผู้เขียนสังเกตเห็นข้อดีเท็จจำนวนมาก

ในช่วงเริ่มต้นของไฟหรือการล้มมีรายงานบันทึกเช่นกัน "วุฒิภาวะเทคโนโลยีต่ำ- เข้าใจว่าเครื่องมือไม่สามารถตรวจจับได้ดี - ไฟหน้าของรถยนต์ที่ถูกนำไปใช้สำหรับไฟ สิ่งเดียวกันสำหรับวัตถุที่ถูกทิ้งร้าง: จากการแจ้งเตือน 270 ครั้งที่ส่งไปยังซอฟต์แวร์ SNCF มีเพียง 21 คนเท่านั้นที่เกี่ยวข้อง บางคนอาจมีม้านั่งที่ตรวจพบอย่างผิด ๆ กระป๋องขยะและแม้แต่คนไร้บ้าน

การเคลื่อนไหวในทิศทางที่ต้องห้ามฝูงชนและการบุกรุกในโซนต้องห้าม (เพื่อตรวจจับทุกคนบนแทร็ก) ได้รับการตรวจพบอย่างถูกต้อง สำหรับการเคลื่อนไหวของฝูงชนคณะกรรมการบูทโดยเฉพาะอย่างยิ่งสิ่งที่ "RATP ได้ตั้งโปรแกรมการเคลื่อนไหวของฝูงชนด้วยความเร็วจำนวนมากดังนั้นจึงไม่มีการบันทึกการแจ้งเตือนขีดเส้นใต้รายงาน

ในขณะที่ผู้ใช้บางคน (ตัวแทนตำรวจและ SNCF และ RATP) สัมภาษณ์ในรายงานมีความกระตือรือร้น - ผู้เขียนรายงานเลือกที่จะไปถึงความรอบคอบ สำหรับหลังการทดสอบปัจจุบันซึ่งเกี่ยวข้องกับซอฟต์แวร์เดียวเท่านั้นและประเมินการใช้งานที่ จำกัด เท่านั้นไม่อนุญาตให้ตัดสินใจเกี่ยวกับความเกี่ยวข้องของ VSA หรือตัดสินใจเกี่ยวกับโอกาสที่จะขยายหรือไม่ทดลอง

5. รัฐบาลต้องการอะไร?

แต่สำหรับรัฐบาลนี้ "ใช่หรือไม่" ไม่ได้เปิดโอกาสให้เขาขยายการทดลองโดยไม่ต้องทำให้มันยาวนาน - อย่างน้อยก็ในขณะนี้ ตั้งแต่ "RATP และ SNCF" จะไม่มีเวลาเพียงพอที่จะทดสอบระบบและ "พัฒนาองค์กรของพวกเขา" พวกเขาเขียนในพื้นที่ของการแก้ไขขอให้เราขยายการทดลองนี้อีก 21 เดือนจนถึงวันที่ 31 ธันวาคม 2570

การเปลี่ยนแปลงอื่นวางแผนไว้: รัฐบาลซึ่งควรจะอยู่ในรัฐสภา "ไม่ช้ากว่าวันที่ 31 ธันวาคม 2567 รายงานการประเมินผลสำหรับการดำเนินการทดลอง"ตอนนี้จะมีจนถึงวันที่ 30 กันยายน 2027 ที่จะทำเช่นนั้นสามเดือนก่อนสิ้นสุดระบบหากข้อความถูกนำมาใช้ตามที่สิ้นสุดของกระบวนการทางกฎหมาย

6. ความสัมพันธ์และผู้ปกป้องสิทธิความกลัวคืออะไร?

ระยะเวลาเริ่มต้นของการทดลองจนถึงเดือนมีนาคม 2568 ได้รับการวิพากษ์วิจารณ์อย่างมากจากนักเทียมข้อความ หลายคนกลัวว่ามาตรการที่ควรจะเป็นพิเศษอยู่ในตอนท้ายของการรวมเข้ากับกฎหมายธรรมดา-ดังนั้นจึงกลายเป็นบรรทัดฐานดังที่เคยเกิดขึ้นในอดีตสำหรับมาตรการต่อต้านการก่อการร้าย -เป็นเรื่องยากที่จะยกมาตรการ“ พิเศษ” ที่เรียกว่าเหล่านี้อย่างรวดเร็ว ในสถานที่มาตรการตรวจสอบและควบคุมกลายเป็นมาตรฐาน"เขียนกลุ่มขององค์กรระหว่างประเทศในเดือนมีนาคม 2566 ในพลับพลาของMondeนานก่อนที่จะมีการนำกฎหมายมาใช้

นอกจากความกลัวนี้แล้ว VSA ยังถูกวิพากษ์วิจารณ์อย่างรุนแรงจากผู้ปกป้องสิทธิก่อนอื่นเพราะไม่มีการศึกษาใดที่ไม่เคยพิสูจน์ประสิทธิภาพของมัน นี่คือสิ่งที่รายงานวุฒิสมาชิกตีพิมพ์ในเดือนเมษายน 2567 "เราเข้าใจในระหว่างคอนเสิร์ตโหมด Depeche ที่ใช้เป็นการทดลอง (จาก VSA บันทึกของบรรณาธิการ) ว่าเครื่องมือ (ของการเฝ้าระวังวิดีโออัลกอริทึมบันทึกของบรรณาธิการ) ไม่ทำงาน การแข่งขันกีฬาโอลิมปิกจะเสนอสนามทดลองเพิ่มเติม แต่ไม่ว่าในกรณีใดจะมีวิธีการรักษาความปลอดภัย-ขีดเส้นใต้วุฒิสมาชิกและผู้รายงานของข้อความAgnès Canayer (Les Républicains)ในระหว่างการนำเสนอรายงานต่อหน้าวุฒิสภา

ในทางกลับกันเทคโนโลยีนี้จะโจมตีเสรีภาพตามที่อธิบายโดยกลุ่มองค์กรระหว่างประเทศเมื่อปีที่แล้ว-มาตรการตรวจสอบภายใต้การดูแลเหล่านี้ (…) บ่งบอกถึงความเสี่ยงที่ยอมรับไม่ได้เมื่อเทียบกับสิทธิขั้นพื้นฐานหลายประการเช่นสิทธิในความเป็นส่วนตัวสิทธิในเสรีภาพในการประชุมและสมาคมและสิทธิในการไม่เลือกปฏิบัติ-

สำหรับสี่เหลี่ยมจัตุรัสของเน็ตซึ่งตีพิมพ์ข่าวประชาสัมพันธ์ Vitrioli เมื่อวันที่ 7 กุมภาพันธ์รัฐบาลมีวัตถุประสงค์เพียงอย่างเดียว: "กำหนด VSA ในค่าใช้จ่ายทั้งหมด"ไม่ว่าจะเป็นเทคโนโลยีนี้หรือไม่ สำหรับสมาคมเพื่อการป้องกันสิทธิ "VSA ไม่ควรขยาย ต้องห้าม- โดยเฉพาะอย่างยิ่งเพราะมัน "มีส่วนร่วมในการสร้างอาคารเฝ้าระวังที่สมบูรณ์แบบซึ่งเปลี่ยนพื้นที่สาธารณะให้เป็นพื้นที่ควบคุมทางสังคมถาวรซึ่งจัดเรียง "พลเมืองที่ดี" และ "ผู้ต้องสงสัย"-

เมื่อเดือนกรกฎาคมที่ผ่านมาคณะกรรมาธิการสิทธิมนุษยชนแห่งชาติ (CNCDH) ซึ่งเป็นหน่วยงานที่ให้คำแนะนำแก่รัฐบาลฝรั่งเศสในเรื่องสิทธิมนุษยชนได้ดึงลูกบอลสีแดงเข้าสู่ระบบ VSA ปัจจุบัน ในความเห็นที่ปรึกษาหน่วยงานอิสระถามว่า "หน่วยงานสาธารณะพิจารณาความปรารถนาที่จะเร่งการใช้งานอุปกรณ์ป้องกันวิดีโอ”การอธิบาย"ถามองค์กรของการอภิปรายประชาธิปไตยที่เกี่ยวข้องกับการใช้การเฝ้าระวังวิดีโออัลกอริทึม»ร่วมกับ CNIL, French French of Private Life

อ่านเพิ่มเติม:VideoSurveillance เจือที่ AI: คณะกรรมการสิทธิมนุษยชนแห่งชาติให้คำปรึกษาแก่ระบบปัจจุบันของกรดกำมะถัน

ในส่วนของมัน CNIL เรียกว่าหลายครั้งเพื่อความระมัดระวังในการเผชิญกับการวางนัยทั่วไปของการเฝ้าระวังวิดีโออัลกอริทึม ถามโดยบริบทในเดือนตุลาคมผู้พิทักษ์ชีวิตส่วนตัวของเรา "ยืนยันเกี่ยวกับความสำคัญของการประเมินผลในการวัดในลักษณะที่เข้มงวดขัดแย้งและสหสาขาวิชาชีพ [การมีส่วนร่วมของพวกเขา] ภายในกรอบของการทดลองนี้ใครไม่สามารถอคติความยั่งยืนที่เป็นไปได้ของระบบเหล่านี้-

🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-