8月30日發布了授權使用智慧視訊監控的實施令。它定義了執法部門在何種情況下可以將這些攝影機與演算法檢測系統結合使用。這並不能讓某些非政府組織放心，例如 Quadrature du Net。捍衛共和黨和數位自由協會譴責「給該行業的禮物」。
幾週後，你們還能靜坐或反方向遊行嗎？表現找朋友？答案是肯定的，但您可能會成為執法部門的目標，他們可能是“警報» 您的行動和行動智慧型相機。這是我們從實施該法令中了解到的與 2024 年巴黎奧運相關的法律，該消息於 8 月 30 日星期三在官方公報上發表。
該文本完成了該法律的立法過程，該法律首次在法國和歐洲授權大規模、即時使用該技術。隨著視訊監控的加強演算法，攝影機拍攝的影像將透過即時視訊分析系統進行篩選，這些工具將在人群中搜尋“異常狀況»...
在立法過程的最後階段，該法令澄清了去年五月通過的法律的某些內容。這絕不是質疑這樣一個事實：在未來幾週內，智慧相機將成為我們生活的一部分，無論是在巴黎奧運會期間，還是之前和之後。經過漫長的過程，儘管自由和公民權利捍衛者對此表示擔憂，這項新技術自8 月31 日起已經可以在實驗基礎上使用，直到2025 年3 月31 日，即巴黎大革命結束後幾個月。
該法令是這項備受爭議的技術落地前的最後一塊磚
這項法令受到特別期待：文本必須明確這些智慧攝影機將如何使用，哪些執法機構可以在什麼條件下存取它們。但它還必須詳細說明私人公司開發的這些系統的「設計」部分。例如，法律規定，當這些工具掃描人群時，它們必須檢測“例外行為», «可能呈現或揭露恐怖主義行為的風險或對人員安全的嚴重威脅」。這是什麼「異常行為」？這個問題要由法令來決定。
經過多次爭議後，該法於去年五月在議會獲得通過。這一切都始於2022年5月在法蘭西體育場舉行的歐冠決賽慘敗。這項技術當時引起了激烈爭論。國際特赦組織在報告中回憶道，首先，因為沒有任何研究證明這種技術可以打擊犯罪。公報。這些演算法無法區分等待的人和看守的人、遺忘的行李和故意遺棄的行李。然後，由於這種對我們的自由構成危險的製度可能會被濫用，大約四十名歐洲議會議員在致法國同行的信中依次譴責了這一制度，然後是包括人權觀察組織或La Quadrature du Net在內的國際組織集體在一個看台上。
但去年五月，該法律獲得通過，內政部長傑拉爾德·達爾馬寧 (Gérald Darmanin) 解釋說：「特殊情況（奧運和恐怖攻擊的風險，編者按), 特殊手段」。該案文隨後得到憲法委員會的批准。法國個人自由的守護者國家資訊科技與自由委員會 (CNIL) 也在 2023 年 6 月評估了該系統，在一份不具約束力的意見中包括審議結果於8月30日公佈。因此，實施令是這項有爭議的技術實施之前提供的最後一個立法磚塊。
異常行為的定義
我們在那裡學到什麼？第一個預期點，「例外行為» 定義明確。後者一旦被這些智慧攝影機發現，就會觸發向警察和憲兵發送訊號。這些 ”特工（然後必須）確認報告或消除疑慮»，詳細介紹了該法令，回顧說，由（人類）執法機構決定每種情況。
在這些會觸發人工智慧警報的要素中，該法令詳細說明了八個事件：
- 「廢棄物品的存在，
- 武器的存在或使用，
- 人員或車輛不遵守共同交通方向，
- 人員或車輛穿越或出現在禁止區域或敏感區域，
- 人群流動，
- 人口密度過大,
- 火災的開始，
- 最後跌倒後地面上有人的存在»。
關於最後一點，該法令回應了 CNIL 的請求。在審議過程中，當局要求政府明確「地面上人員的檢測應僅涉及跌倒的情況，無論原因為何（例如事故、不適或震動），而不是人員持續坐在地面上的情況」。個人自由衛士的目標是防止組織靜坐的活動人士，甚至無家可歸的人，最終被這些智慧攝影機自動發現和報告。
“今天，我們將在奧運會期間測試這項技術，我們不知道它是否有效”
列出的其他幾個要素提出了問題，首先是“人口密度過大」。我們從什麼時候開始進入“太重要了»？預計將有 1300 萬奧運觀眾是否會被系統性地視為屬於這一類別？理論上，該系統會每隔“密度太高» – 因此在比賽期間不斷。 “奧運期間，巴黎地區將面臨特殊問題。演算法不是魔杖»，Quadrature du Net 律師 Noémie Levain 表示遺憾。
«相反，我們必須努力確定如何管理空間、交通、如何提供足夠的人力、講所有語言的人等等。正如他們所說，我們要測量人口密度其實是技術解決主義、科技魔法。它不提供任何信息，但另一方面，脫離其上下文，這些工具極其危險»，她補充道。
對律師來說，這個問題更為普遍。 “今天，我們將在奧運期間測試這項技術我們不知道它是否有效”，她鏟球。去年 10 月，SNCF 在巴黎北站測試了兩天的智慧相機工具。儘管系統確實識別出了錯誤的輸入方式，但事實證明它無法檢測“武器端口» 就像「地面上的人」。更糟的是：警報多次被錯誤觸發。
“送給實業家的禮物”
目前，這種類型的系統並不完全有效。該法還規定，在未來演算法的設計階段，選定的公司將能夠在十二個月內，使用公共攝影機在法國街道收集的影像樣本。該樣本由國家根據相關性、充分性和代表性的要求進行選擇。翻譯：贏得合約的公司——公司可以在 9 月 11 日之前提出申請，具體取決於招標情況——將能夠訪問攝影機收集的圖像樣本，例如位於法國公園或體育場前的圖像樣本，訓練演算法。
«這條法律是給想要開發這種效果不佳的軟體的行業的一份禮物，想要擁有數據，能夠在真實情況下進行一些測試。這是讓自己變得不可或缺並在社會接受度方面邁出第一步的一種方式。»，對付諾埃米·萊文。因為要訓練這些演算法，您需要數據，因此系統將使用圖像來定義特徵。這些內容將出現在新影片中。金子， ”這些公司很難獲得它們，他們在國外購買資料集，但它們往往有點模糊，而且並不總是合法的。有了這項法律，這些公司就有可能取得法國街道攝影機的影像樣本»，律師補充道。
“該法令並沒有說太多，儘管它本來可以非常精確”
面對這種可能性，CNIL 在審議中詳細要求將拍攝事件的地點、日期以及影像的重複使用情況告知該集合中的所有人員。目標：讓那些不希望最終出現在這些訓練資料中的人不參加相關活動。
在該法令中，只有一句話回應 CNIL 的要求：「上述 2016 年 4 月 27 日第 2016/679 號法規 (EU) 第三章第 2 節規定的資訊已提供給相關人員。»。請理解：這些被拍攝的將訓練演算法的人擁有知情權。但這項權利具體如何落實？該法令並未具體說明本通訊的條款。 «在這個至關重要的重大設計階段，該法令並沒有說太多，儘管它本來可以非常精確。最終，人們將成為小白鼠»，來自Quadrature du Net的律師感到遺憾。有時卻不知不覺？
沒有臉部辨識技術
該法令描述了其他保障措施，例如使緊張局勢具體化的另一點。系統不能使用“沒有生物辨識系統」。他們無法實施“沒有臉部辨識技術」。他們不能自行做出任何個人決定或任何起訴行為，這是文本中所寫的。 CNIL 在審議中回顧說，“即使使用生物識別以外的數據（例如透過服裝識別），該處理也不允許追蹤或重新識別人員»。
該法令最終指定了與執行階段相關的要素，例如可以從智慧攝影機接收報告的代理列表，或者 CNIL 對所實施的解決方案擁有相當於審查權的事實...
下一步，所有的目光都集中在正在進行的招標上，“人工智慧視訊保護軟體解決方案的取得、安裝和運行狀態維護」。該實驗的總預算預計持續到 2025 年 3 月：200 萬歐元。在此日期之後，將評估所使用的設備。如何 ？那裡也有，法令將詳細說明條款和條件——尚未公佈，但維權人士打算盡一切努力確保系統不會永久存在。同時，該行業的公司可以在 9 月 11 日之前申請招標。然後，在一段非常奇怪的時期開始之前，我們就會知道將贏得合約的公司的名稱。我們將自願或不情願地經歷演算法監控的時代…
來源 ： 8 月 30 日在官方公報上發布的法令
