10月16日星期二提起上訴,面向國務院委員會提出的15個協會:它的目的是結束使用CAF評級算法(家庭津貼基金)的使用。在這種情況下,歐盟法院可以被扣押:足以給該自動化工具帶來決定性的打擊 - 以及其他行政部門中使用的其他工具 - 對協會的希望,這判斷了後者的歧視性和更大的問題。
這管理評級算法,作為檢測欺詐的手段,他們會很快屬於過去嗎?這就是這15個協會希望,10月15日,星期二,在國務委員會之前開始針對國家家庭津貼基金(CNAF)的法律訴訟。在他們的取景器中:演算法CNAF的符號,不僅是。網絡的正交,大赦國際法國,人權聯盟,法國律師律師和其他非政府組織該工具使CNAF可以決定要控制哪個受益人,這是其與社會欺詐的鬥爭的一部分。
去年7月,這些協會要求該基金停止使用這種算法,據他們說,這將使他們感到不安,他們在他們的中解釋記憶。經過兩個月的CNAF沉默,這將等同於失敗的結束,後者決定採取法律行動。有了這一上訴,協會希望該算法將被絕對放入壁櫥中……與其他所有政府使用的其他行政部門一樣。
該主題遠非新主題。去年11月,網絡的正交訪問了基金源代碼的兩個先前版本。協會估計,最不穩定的,正如我們在本文中向您解釋的那樣。一切都從2022年12月對牢房的調查開始法國廣播電台的調查,他透露,CNAF根據欺詐的風險指出了其受益人。
受益人越不cho可危,他就越可能被檢查
15個非政府組織回憶起的背景10月16日星期三的新聞稿。演算法 "每個接收者的屬性是一個可疑分數,其值用於選擇主題進行控制。它越高,被控制的概率越大。該算法每個月都會分析有3200萬人居住在房屋中的個人數據,併計算超過1300萬的分數»。
通過發布兩種先前的CAF算法,網絡的正交狀況表明,它們的變量越有可能導致轉向不穩定的風險(例如,工作喪失,情況變化),受益人越多地收到接近1的便條,而他就越可能被檢查,就越可能受到檢查的檢查,解釋了捍衛數字權利協會。
對於CNAF,該工具僅旨在確定最有可能犯錯的受益人
作為回報,收銀機總幹事尼古拉斯·格里維爾(Nicolas Grivel)在給法新社的採訪,該算法主要旨在確定最有可能在聲明中犯錯誤的受益人。他解釋說,他不會歧視,也不一定針對最貧窮的人,而是那些收入有所不同的人。在這個星期三,同一位董事發表了類似的聲明,總是和我們的同事在一起。該工具旨在確定最有可能在聲明中犯錯誤的受益人,它的目標是“重要且重複的行業“他說。
對於非政府組織,針對法律行動同樣多”監視程度“那”這種算法對受益人的歧視已經削弱了他們的人生道路»。 «通過吸收不穩定和懷疑欺詐,該算法參與了對最弱勢群體的污名化和機構虐待的政策”,繼續關聯。
歐盟法院的判決可以改變局勢
這項上訴發生在歐盟法院(CJEU)的判決後十個月,這可能改變了局勢。 12月7日,歐洲法官估計,如果根據GDPR,歐洲對個人數據的監管,則禁止任何類型的自動評級對人們的生活產生重大影響。換句話說,使用個人數據使用評級系統的任何決定都是非法的。
也許質疑法國政府的CNAF制度以及其他意思的評分系統,這些系統暗示了“網絡的正交”,“對最不穩定的人,自動停學,已經處於困難的人的工業恢復的重複控制»?協會要求法國最高的行政法院抓住CJEU,要求其意見(通過初步推薦)或發音算法的非法性。尼古拉斯·格里維爾(Nicolas Grivel)在CNAF負責人向他保證,但我們仍然與法新社的同事一起:“如果司法管轄區應立即(...)開發該設備,(CNAF將使自己)符合合規””。