10 月 23 日星期一，來自不同領域的約 15 名專家在歐洲資料保護監管機構 (EDPS) 的主持下在歐洲議會舉行會議。在兩個多小時的時間裡，這些專家分析了未來歐洲旨在打擊兒童色情製品的法規，特別是其有爭議的措施，有時被稱為「聊天控制」。對於 EDPS 來說，結論很明確：專家之間達成了「非常廣泛且幾乎前所未有的共識」。他們表示，要求平台檢測兒童色情內容（包括加密訊息）將「無效且有害」。
一項將永遠改變網路和我們民主國家的措施：10 月 23 日星期一，歐洲資料保護監管機構 (EDPS) 組織了一場研討會，題為“一個不歸路？」。在兩個多小時的時間裡，不同的專家輪流對未來法規中旨在製止兒童性虐待的一項有爭議的措施發表評論，「CSAR」（對於「兒童性虐待監管»)。如果未來的法規通過，將迫使平台和訊息傳遞（包括加密）以檢測並向當局報告兒童色情內容（稱為“兒童性虐待材料» 或 CSAM）。
這項新義務有時被稱為「聊天控制」——對話控制——從一開始就引發爭議。許多專家認為，這將削弱甚至結束加密訊息的加密例如 WhatsApp、Signal 或 Telegram。在這些平台上，只有金鑰持有者和發送者才能存取交換的內容。即使涉及組織犯罪、恐怖主義或兒童色情製品，訊息傳遞服務本身和警方都無法了解這種情況。隱私倡導者警告說，透過削弱加密並迫使公司實施自動檢測，該法規可能會導致對我們所有通訊的廣泛監視。
「無效且有害」的措施
因此，對於 EDPS 來說，問題是負責監督歐盟委員會等歐洲機構如何保護資料的獨立機構，匯集不同領域的專家並比較觀點。一年前，EDPS 和歐洲 CNILS 已在聯合意見中解釋說，該法規草案“引發了嚴重的資料保護和隱私問題」。 10 月 23 日的研討會結束時，主計長現在更進一步。他的結論是，有和 ”之間非常廣泛且幾乎前所未有的共識（……）資料保護機構、法律專家、學術界、工業界、民間社會、國家立法者和執法機構»。
強制掃描所有電子郵件將是“不僅沒有效果，而且有害」。這樣的措施將會對[私人生活]的基礎產生質疑，一旦動搖，就會導致根本性的變化，而我們將無法從中返回”歐洲資料保護主管 Wojciech Wiewiórowski 在研討會期間感到震驚。
https://twitter.com/EU_EDPS/status/1716458216140185843
一個不歸路？一個不歸路。
歐洲監管機構在 10 月 23 日發布的信息說明中寫道，就目前的形式而言，“CSAM 提案將從根本上改變我們所知的互聯網和數位通訊。這將是一個不歸路」。該獨立組織希望週一發言的專家們的聲音最終能夠傳到歐盟委員會的耳中。該法規背後的歐盟專員伊爾瓦·約翰遜（Ylva Johansson）受邀在歐洲議會舉行的這次研討會上發表演說。但後者，受到各種爭議的困擾，沒有回應歐洲主計長的邀請。
在研討會期間，專家們提出了三點關切和批評：效率低下、技術上的不可能性以及大規模監控的風險——這對我們的基本權利造成了令人震驚的後果。
容易規避的檢測措施
專家首先解釋說，實施全面掃描來識別兒童色情內容不會為兒童提供更多保護，原因很簡單。比利時魯汶大學教授兼網路安全專家巴特‧普雷內爾 (Bart Preneel) 回憶道，即將實施的檢測措施很容易被規避。
«一旦你知道AI在尋找什麼，就有可能繞過它，你也將能夠利用AI繞過AI，所以AI工具之間就會存在競爭」。誰會贏？巴特·普雷內爾回答說，可能是試圖繞過自動掃描的人。
大量誤報
提出的第二個問題：這種類型的檢測系統並不可靠，因為它會產生誤報。 “這項技術並非沒有錯誤，但我們每天都在談論數十億次通信», 底線亞歷山大‧漢夫 (Alexander Hanff)，電腦科學家與隱私專家。 “即使我們的錯誤率為 0.1%，每天也會出現數百萬個誤報或漏報，這在民主國家是無法接受的»。
這些誤報可能會導致已經被淹沒的調查服務被淹沒。額外的困難是，檢測不僅限於兒童色情內容（例如照片或圖像）。它也應該適用於「修飾」－一個指定行為的術語，因為成人出於性目的在網路上與未成年人見面，或以製作兒童色情內容為目的。然而，這項技術將如何區分交換性短訊的未成年人和麵臨兒童猥褻者危險的未成年人？
«有必要利用人工智慧來區分合法內容和非法內容，而這將是極其困難的。認識巴特·普雷內爾教授。「舉一個簡單的例子，最終有必要有一種可靠的方法來驗證年齡，我認為這是一件非常困難的事情，除非我們強制每個人都使用國家提供的身份登入。這當然引發了許多其他問題。»，他補充道。
受訪的專家解釋說，在風險收益平衡中，該帳戶根本不存在。一方面，公民將受到更多的監控。另一方面，孩子也不會更安全。
技術上不可能
擬議法規帶來的另一個挑戰：從技術上講，不可能在不削弱端對端加密且不侵犯用戶隱私的情況下分析對話內容。 “這是該領域數百名頂尖科學家和研究人員得出的明確結論。許多專家一致認為，目前的尖端偵測技術解決方案不夠可靠，而且容易受到網路攻擊», 估計控制器。
英國研究人員 Claudia Peersman 解釋了這一點，該專家小組負責評估能夠在不損害人們隱私的情況下掃描加密訊息的系統。然而，根據後者的說法，“沒有一個工具能夠滿足（我們的標準）。 （……）我們只是相信這些工具還沒有準備好在端到端加密環境中大規模部署在私人訊息上»。
最後，對我們所有通訊的廣泛掃描將產生一種持續受到監視的感覺——這將影響我們的基本權利。許多年輕人或青少年可能會放棄如果當局能夠監控他們的數位通信，他們就會積極參與政治活動、競選或探索自己的性取向。
“隱私不是一種選擇，而是我們獲得所有其他基本權利的重要途徑”
然而，非政府組織歐洲數位版權 (EDRi) 的專案經理 Ella Jakubowska 回憶道：「隱私不是一種選擇，而是實現我們所有其他基本權利的重要途徑»。正是這種尊重私人生活的原則“讓您享有其他權利（…），例如能夠表達自己的個性、身分和信念。正是源自於這項原則，我們才有能力投資於政治、經濟、社會和文化生活。」。對於後者，沒有必要像歐盟委員會在提案中那樣反對隱私和安全。她補充說，這並不是為了保護孩子的安全而放棄隱私。
實施此類技術也意味著將收集大量數據。我們如何確保檢測僅限於兒童色情內容？專家解釋說，這是一個沒有人知道如何回答的問題。更廣泛地說，歐盟及其成員國真的準備好接受大規模通訊監控嗎？財務主任問道，他們準備好模糊民主國家和獨裁政權之間的界線了嗎？
在歐洲機構方面，自研討會結束以來，這些問題尚未出現任何答案。但今年 10 月 25 日線路可能會移動。本週三，歐洲議會公民自由委員會成員將向歐盟委員伊爾瓦·約翰遜提問。而這一次，政客將無法拒絕邀約。
來源 ： 2023年10月23日EDPS研討會
