7月2日星期二,法國國家人權諮詢委員會(CNCDH)發表了對VSA的批評意見:這個為法國政府提供人權諮詢的機構批評了VSA系統、由演算法驅動的視訊監控、巴黎奧運的法律規定。有機會就 CNCDH 發布的建議以及 VSA 在法國的一般使用向公法講師兼基本權利專家 Robin Medard Inghilterra 提問。
7月初,國家人權諮詢委員會(CNCDH)發布了關於由演算法驅動的視訊監控或 VSA,在官方雜誌上發表:在巴黎奧運會前不到三週的時間裡,有機會返回法國目前授權的 VSA 系統。索邦大學法律與哲學科學研究所公法講師 Robin Medard Inghilterra 在編寫本報告期間接受了訪談。這位基本權利專家同意回來01網,關於該視頻監控及其在法國的使用。
值得提醒的是,為政府提供人權諮詢的國家人權委員會曾就這一制度發表過一份特別批評的報告:該委員會指出,保障不足,控制機構沒有發揮反權力的作用,甚至是兩者之間的平衡被打破。她甚至稱「公共當局重新考慮加速部署視訊保護設備的願望»:對還是錯?
CNCDH 認為,它正在審查 2023 年 5 月 18 日頒布的《巴黎奧運法》中引入的 VSA 實驗。該文本通常被視為在該國和歐洲使用該技術的首次授權,並在 2025 年 3 月之前進行測試。
這部法律實際上為VSA(這些用於視訊監控影像的演算法處理設備)提供了立法依據。因為我們必須考慮到,在2023年5月18日法律出台之前,演算法視訊監控不一定被禁止。該法律的規定是:「我們要做一個實驗,我們需要一個立法基礎。 《內部保全守則》引入不同條文」。因此,該法律確保在特定情況下針對四個特定場所實施 VSA:舉辦體育、娛樂、文化活動的場所、其周圍環境以及允許進入這些場所的交通。它只能用於檢測 2023 年 8 月法令預先確定的要素,例如火災爆發、人員流動等。
但我想強調的是,VSA 以前就存在過,而且現在仍然以一種相對缺乏記錄的方式存在。然而,這並沒有被禁止。它受所謂的個人資料法管轄。因此,2023 年法律的主要變化是確保 VSA 在奧運會上的使用。但這並不是科技使用的徹底大爆炸。
那麼,VSA(巴黎奧運法律範圍之外)在法國原則上並沒有被禁止嗎?
就是這樣。您通常已經在地方當局(特別是市政當局)或 EPCI、公共市際合作機構中建立了多個 VSA 系統:此 VSA 屬於 GDPR(歐洲個人資料法規)、警察司法指令和資料保護法。在那裡,沒有控制,沒有安全。這些做法存在著一定的不透明性,這意味著這些 VSA 迄今尚未受到或很少受到爭議。雖然「經典 VSA」(編者註,不屬於奧運法律範圍)已在法國領土上廣泛部署,但由於各種原因(包括 CNIL),它並未受到關注。 (《我們私人生活的守護者》,編者註)實際上沒有辦法觸發與其使用規模相關的足夠的控製程序。透明度存在巨大問題。
令人驚訝的是,2024 年奧運法律引入的 VSA 受到了機構、媒體和學術界的關注,但它實際上是一個完全例外的系統。首先是因為受其保護,而 VSA 的其他用途不受立法規定的保護。然後,因為它是該法第 10 條中提到的對個人資料權的眾多附加保障的主題,即:僅在某些地方發生預定事件、上訴只做實時,並且只觸發警報。實際上,這些保證比「經典 VSA」的現有保證更廣泛。
奧運會,我們都關注它,因為它可能更性感、更有銷售力。圍繞奧運會的安全措施存在競爭,順便說一句,這種競爭很可能在隨後持續下去。但在此之前,我們對 VSA 的實驗還很少,即泰勒絲 (Taylor Swift) 演唱會、黑眼豆豆樂團、音樂節、巴黎聖日耳曼與里昂的比賽和三個地鐵站。它是殘餘物,甚至還不到今天 VSA 使用量的 1%。
那麼我如何知道在我的村莊、我的社區或我的城市中是否已經有 VSA 設備在使用?是否有某種集中文件可以輕鬆存取這些資訊?
不,但可以透過兩種方式找到答案。第一種技術受到 Quadrature du Net 的廣泛好評。數位維權協會在 2019 年發起了一場「技術警察」運動,而獲取這些資訊的策略之一就是增加所謂的「CADA 請求」。這些是行政文件的通訊請求,以從每個城市取得 VSA 公共採購合約的副本。這些文件詳細說明了市政當局希望裝備的設備的性質,以及與該或該公司簽訂的合約的主題。這提供了對所使用的 VSA 的深入了解,並極大地幫助記錄了這一現象。
第二種方法是諮詢安全製造商和 VSA 的站點。有眾所周知的Briefcam,還有Wintics、Videtics、Chapsvision。還有國家視訊保護協會 (ANVP),該協會每年都會發布一份視訊保護指南,其中每個製造商都有一個頁面來展示其產品並提及其客戶。這使您可以在 Briefcam 頁面上看到給定部門的給定市政府或給定公共機構是其客戶之一。這種現像是巨大的。
近幾個月來,各市政當局(特別是調查媒體 Disclose)使用 VSA(在巴黎奧運法範圍之外)的多起案件被揭露。這引發了訴訟:法官如何判決這些案件?
當您來自 Disclose 的同事談到幾個城市以及國家警察和憲兵部門使用 Briefcam 時,事實上存在一些針對魯貝市、尼斯市和 Cœur 公社社區的訴訟Côte Fleurie(包括特魯維爾和多維爾)。
這三個案件的訴訟都因不同原因而失敗,但其中兩個案件一路上訴至國務委員會。這很有趣,因為在聽證會上,市政當局及其律師提出了某些理由。在涉及 Cœur Côte Fleurie 的案例中,問題在於 Briefcam 銷售的 VSA,該 VSA 用於事後編譯數小時的圖像頻寬,以便找到特定事件。
市政當局已經獲得了 VSA,但國家服務部門、國家警察和憲兵可以直接存取該軟體。但在個人資料法中,如果您代表國家處理個人數據,則需要監管依據,因此需要授權的法令。就目前情況而言,沒有一個。
因此,根據 Me Mathonnet(在本案中代表捍衛憲法自由協會,編者註)的公式,在巴黎奧運法律之前,我們在 VSA 上處於狂野西部邏輯。奧林匹克運動會的法律避免了這種現象,因為它精確地規定了這種現象。儘管有種種缺點,但這也是它的優點之一:它比我們迄今為止所使用的更適合和規範 VSA 的使用。我並不是說這已經足夠了,但是超出了VSA JO版本,我們有狂野西部的邏輯現階段 VSA 的現場使用。
讓我們回到國家人權委員會的觀點,該委員會對該制度持相當批評的態度:後者表示,有必要在「侵犯基本權利和自由與保護公共秩序之間」「恢復被打破的平衡」。它提出了多項建議,特別是關於 VSA 請求(巴黎奧運版本)的建議。今天,這些要求在實務上是如何提出的?
負責保護相關場所安全的當局將提出請求,即舉辦體育、娛樂或文化活動的場所,或負責保護場所運輸車輛或其周圍環境的公共或私人公司。音樂節期間,RATP 向縣政府提出了請求。
然後,該縣發布命令,授權使用演算法處理設備處理從視訊保護系統拍攝的影像。 VSA 在特定時間段、特定地點實施,僅出於法律第 10 條規定的即時目的。
確切地說,這個即時目的是什麼?
JO 的 VSA 版本不允許處理後驗,也就是說,使用VSA軟體來尋找例如犯罪的人。我們所能做的就是觸發即時警報,以盡快偵測人群移動、攜帶武器、起火、相反方向的交通、人員密度過高或有人。
能夠進行的影像的唯一用途是可以將影像保留十二個月,以訓練處於實驗階段的測試軟體。
我們做一個實驗的時候,像是在巴黎這樣的地鐵站,音樂節期間,24小時以上,所有的影像,十萬個從鏡頭前經過的人,都被收集起來。這些數據隨後將用於訓練該公司的演算法工具,該工具贏得了 VSA JO 版本的公開市場。在這種情況下,對於巴黎地區來說,Wintics 公司將能夠利用這些公共資料來改善其軟體。
其認為,CNDH在其建議中準確地列出了請求中的“遵守必要性和相稱性要求”,而這些要求應“受到系統性的獨立控制”。你怎麼認為?
我認為,正如 CNCDH 所建議的那樣,應該進行定量和定性評估。此時我們不知道境內有多少個攝像頭,安裝這些攝影機的原因是什麼。我們不知道證明其使用合理的實際需求。這就是為什麼 CNCDH 指定需要證明這些工具的必要性和相稱性,但目前尚未完成。我最近和法國南部城市監管中心CSU的一位經理交談,他非常清楚地解釋說,你只需要提出請求,就會獲得批准。也就是說,在實務中,安裝新攝影機時無法控制實際需求。從法律上講,應該有一個。
我也同意 CNCDH 的看法,即 CNIL 的控制不足,該機構沒有足夠的人力和財力資源來啟動有效的實地控製程序。據他們稱,當 Disclose 宣布國家服務部門可能使用 VSA 軟體時,CNIL 並不知道這一點。因此,當這一消息曝光時,它觸發了內政部的控製程序。換句話說,即使政府在國家層級使用 VSA,CNIL 也不會知情。然而,該機構負責確保個人資料法(包括 VSA 事務)的有效性。
這篇評論是否遺漏了一些東西?
需要完全明確的是,我接受過基本權利的培訓,因此我的首要任務顯然是基本權利的有效性。是的,我們可以注意到不足之處。從無人機飛越命令開始。今天在巴黎,一年內平均每兩天就會有一個以上的航班授權訂單。困難在於,縣政府發布這些命令的時間非常晚。不可能有效地對抗它們。對於相機和無人機的使用,在這些飛越授權期間,遵守基本權利,這是完全可能的,我們仍然必須能夠確保這一點。
為此,如有必要,您必須能夠向行政法官提出質疑。事實上,這種抗議是由協會發起的。為了使後者能夠提出上訴,該命令必須提前充分公佈。然而,在現階段,巴黎警察總部和其他地區,特別是濱海阿爾卑斯省的警察總部,經常在航班起飛前幾個小時發布命令,這使得行政法官無法提出任何質疑和核實。 CNCDH 在其意見中沒有指出這一缺陷,但我認為可以補充。
還有另一個困難,那就是法官可能沒有受到足夠的訓練來正確理解這些問題。裡爾行政法院告訴我們,VSA 不是個人資料處理。顯然,VSA 的使用是在處理個人資料。因此,確定這些工具的有效性也面臨真正的挑戰。
該委員會認為,也呼籲就 VSA 的使用進行民主辯論;甚至說這是一種社會選擇。她是不是太過分了?
我認為這個意見是 CNIL 在採用視訊保護時所做觀察的延續。對於自動化分析來說,這確實是一個根本性的改變,更何況是臉部識別,因為它是透過最新版本的例外授權而可以實現的。歐盟人工智慧法規,徹底改變公共空間。
所以是的,從這些技術和人工智慧系統的使用徹底改變公共空間,從基於行使自由原則的空間轉變為基於控制和監視原則的空間的那一刻起,就沒有什麼可以改變的了。再有任何隱私。這似乎違反直覺,但儘管如此:公共場所確實存在隱私權。