英國 CNIL 估計，Snapchat 推出「My AI」將「無法正確評估其數百萬用戶（其中很大一部分是未成年人）的私生活風險」。這個社群網路面臨巨額罰款，甚至被海峽兩岸禁止的風險。
《我的人工智慧》由 ChatGPT 提供支援的聊天機器人Snapchat 推出得太快了嗎？這就是 ICO 的觀點（“資訊專員辦公室），英國 CNIL，10 月 6 日發表。在英國，保障自由的機構認為：快照會有“未能正確評估隱私風險» 在提供這個聊天機器人之前，它擁有數百萬用戶。
去年 2 月，Snapchat 的母公司 Snap 為英國 Snapchat+ 訂閱者推出了「My AI」功能，並於 2023 年 4 月將其擴展到該國所有用戶。該公司是第一個採用人工智慧聊天機器人功能的社群網路——聊天機器人呈現為使用者的虛擬朋友。 2023 年 5 月，有近 2,100 萬人定期造訪該社群網路。其中一些是13歲至17歲的未成年人。並根據衛報，整個頻道一半的用戶年齡在 24 歲以下。
Snap 是否遵循兒童設計準則？
然而，在提供由 OpenAI 的 GPT 技術支援的聊天機器人功能之前，該平台應該已經執行了當局表示，適當的風險評估。英國 CNIL 認為，其特別目標是保護數據，特別是該社交網路的重度使用者的未成年人的數據。當局沒有提供更多細節來說明可能評估不力或保護不力的情況：該平台是否從未成年人收集了太多數據？未成年用戶的同意是否應該受到更多保障？根據英國廣播公司，英國 CNIL 希望確保“我的人工智慧» 尊重“兒童設計規範»，一項旨在保護兒童線上資料的法律。
如果本通知未涵蓋針對 Snap, Inc. 和 Snap Group Limited 的申訴，則仍存在「初步」通知：這家美國社交網路可以在 10 月 27 日之前對當局做出回應，或許會更改其一般使用條件。如果 ICO 認為其回應不夠充分，它可能會發布最終意見，要求公司“停止處理與「我的AI」相關的數據」。翻譯：在進行適當的風險評估之前，Snap 將無法再向英國用戶提供「My AI」。他還可能需要支付巨額罰款，最高可達其全球營業額的 4%。
“我們將採取行動保護英國消費者的隱私權”
被我們的同事提問路透社，Snap 表示該通知正在審核中。據其一位發言人稱，「（l一項功能）「My AI」在向公眾發布之前經過了嚴格的法律和隱私審查程序。我們將繼續與 ICO 進行建設性合作，以確保他們對我們的風險評估程序感到滿意»。
海峽對岸，保障自由的權威機構回顧說，人工智慧開發者必須從一開始、在產品推出之前就遵守資料保護的義務。 “這些組織必須考慮與人工智慧相關的風險及其好處。初步通知（…）顯示我們將採取措施保護英國消費者的隱私權」該機構的通知中引用了資訊專員約翰愛德華茲 (John Edwards) 的解釋。
「侵入性」、刪除 13 歲以下兒童的帳戶、錯誤等。
自從推出以來，《我的AI》就招致了不少批評。侵入性據一些用戶說。後者透過啟動 Snap 的人工智慧聊天機器人意識到該工具使用了大量個人資訊（例如位置）。此資料收集是由 Snap 的一般條件規定的。但用戶之前不一定意識到這一點。
自今年夏天以來，Snap 也因另一項文件而受到英國當局的關注。 ICO 質疑該社交網路是否採取了足夠的措施從其平台上刪除 13 歲以下用戶的帳戶——通常必須年滿 13 歲才能使用該社交網路。但與 TikTok 每月刪除數千個帳戶不同，Snapchat 只會使大約 10 個帳戶失效，去年 3 月我們的同事解釋。路透社。
最後，該平台被批評“錯誤» 或“不恰當的建議» 聊天機器人。該公司認識到““我的人工智慧”可能會做出錯誤的反應，提供有偏見的答案，或者表明它不確定答案”。該公司甚至警告沒有必要“相信他的建議»。
來源 ： 英國CNIL 2023年10月6日通知
