英国 CNIL 估计，Snapchat 推出“My AI”将“无法正确评估其数百万用户（其中很大一部分是未成年人）的私生活风险”。该社交网络面临巨额罚款，甚至被海峡两岸禁止的风险。
《我的人工智能》由 ChatGPT 提供支持的聊天机器人Snapchat 推出得太快了吗？这就是 ICO 的观点（“信息专员办公室），英国 CNIL，10 月 6 日发表。在英国，保障自由的机构认为：快照会有“未能正确评估隐私风险» 在提供这个聊天机器人之前，它拥有数百万用户。
去年 2 月，Snapchat 的母公司 Snap 为英国 Snapchat+ 订阅者推出了“My AI”功能，并于 2023 年 4 月将其扩展到该国所有用户。该公司是第一个采用人工智能聊天机器人功能的社交网络——聊天机器人呈现为用户的虚拟朋友。 2023 年 5 月，有近 2100 万人定期访问该社交网络。其中一些是13岁至17岁的未成年人。并根据卫报，整个渠道一半的用户年龄在 24 岁以下。
Snap 是否遵循儿童设计准则？
然而，在提供由 OpenAI 的 GPT 技术支持的聊天机器人功能之前，该平台应该已经执行了当局表示，适当的风险评估。英国 CNIL 认为，其特别目标是保护数据，特别是该社交网络的重度用户的未成年人的数据。当局没有提供更多细节来说明可能评估不力或保护不力的情况：该平台是否从未成年人那里收集了太多数据？未成年用户的同意是否应该受到更多保障？根据英国广播公司，英国 CNIL 希望确保“我的人工智能» 尊重“儿童设计规范»，一项旨在保护儿童在线数据的法律。
如果本通知未涵盖针对 Snap, Inc. 和 Snap Group Limited 的申诉，则仍存在“初步”通知：这家美国社交网络可以在 10 月 27 日之前对当局做出回应，或许会更改其一般使用条件。如果 ICO 认为其回应不够充分，它可能会发布明确意见，要求公司“停止处理与“我的AI”相关的数据”。翻译：在进行适当的风险评估之前，Snap 将无法再向英国用户提供“My AI”。他还可能需要支付巨额罚款，最高可达其全球营业额的 4%。
“我们将采取行动保护英国消费者的隐私权”
被我们的同事提问路透社，Snap 表示该通知正在审核中。据其一位发言人称，“（l一项功能）“My AI”在向公众发布之前经过了严格的法律和隐私审查程序。我们将继续与 ICO 进行建设性合作，以确保他们对我们的风险评估程序感到满意»。
海峡对岸，保障自由的权威机构回顾说，人工智能开发者必须从一开始、在产品推出之前就遵守数据保护方面的义务。 “这些组织必须考虑与人工智能相关的风险及其好处。初步通知（……）表明我们将采取措施保护英国消费者的隐私权”该机构的通知中引用了信息专员约翰·爱德华兹 (John Edwards) 的解释。
“侵入性”、删除 13 岁以下儿童的帐户、错误等。
自推出以来，《我的AI》就招致了不少批评。侵入性据一些用户称。后者通过启动 Snap 的人工智能聊天机器人意识到该工具使用了大量个人信息（例如位置）。此数据收集是由 Snap 的一般条件规定的。但用户之前不一定意识到这一点。
自今年夏天以来，Snap 也因另一项文件而受到英国当局的关注。 ICO 质疑该社交网络是否采取了足够的措施从其平台上删除 13 岁以下用户的帐户——通常必须年满 13 岁才能使用该社交网络。但与 TikTok 每月删除数千个账户不同，Snapchat 只会使大约 10 个账户失效，去年 3 月我们的同事解释道。路透社。
最后，该平台被批评“错误» 或“不恰当的建议» 聊天机器人。该公司认识到““我的人工智能”可能会做出错误的反应，提供有偏见的答案，或者表明它不确定答案”。该公司甚至警告说没有必要“相信他的建议»。
来源 ： 英国CNIL 2023年10月6日通知
