在 2022 年底 ChatGPT 出现后不久，冒充男女朋友的聊天机器人就蓬勃发展。大多数聊天机器人通过提供付费订阅而蓬勃发展，但这并不是出版商发现的唯一方式。Mozilla 基金会检查了 11 个以网站或移动应用程序形式出现的“同伴”机器人的做法，结果令人相当担忧。
危险连接
就其本质而言，这些机器人是大量非常机密的信息的容器——性偏好和性幻想，但更平常的是地址和姓名——其利用通常是最不明确的。如果“虚拟伴侣”发生数据泄露或黑客攻击，这些信息可能会对用户的声誉造成严重损害。
没有什么可以阻止黑客利用这些数据来欺骗用户。这些服务呈现出“固有风险» Mozilla 强调说，“大量数据收集”。当处于情绪脆弱状态时，许多用户会自愿暴露自己的隐私，而忽视了隐私的影响。
无需进行数据库黑客攻击，人工智能机器人就很乐意将数据转售给经纪人。 Romantic AI 就是这样：根据 Mozilla 研究人员的统计，仅使用一分钟后，该应用程序就已向 24,354 个广告跟踪器发送了数据（！）。然而，该应用程序保证它不会向任何人出售任何东西……一般来说，这些人工智能服务在解释私人数据的利用方面并不公平。
他们中的许多人的安全实践也与在线安全的基础知识不一致。这项研究让 Anima AI 成为焦点：它的账户密码可能只包含……一个字母！
最后，这些机器人的操作透明度为零。一些应用程序不提供删除消息的方法，而另一些应用程序则没有明确说明使用哪种语言模型。还有一些应用程序不允许用户选择不将他们的对话用于训练未来的语言模型。
为了限制损害，Mozilla 重申了良好的数字卫生规则：
- 你不应该对你的“人工智能朋友”说任何你不会对同事或表兄弟说的话；
- 使用强密码并在提供时安装应用程序更新；
- 删除您的个人数据，或要求发布者在您使用完机器人后将其删除；
- 禁止使用您的个人聊天内容来训练 AI 模型（如果存在该选项）；
- 通过设备设置限制对您的位置信息、照片、相机和麦克风的访问。
Opera One - AI 驱动的网络浏览器
作者：歌剧
来源 ： 莫兹拉
