聊天机器人假装是小朋友或女友在2022年底出现后不久就蓬勃发展了。通过提供付费订阅,最繁荣,但这并不是出版商让用户口袋的唯一途径。Mozilla基金会研究了以网站或移动应用程序形式存在的11个“同伴”机器人的实践,它们令人不安。
危险的链接
从本质上讲,这些机器人是大量非常机密信息的容器 - 性偏好和幻想,但更平淡地地址和名称 - 通常将其剥削留在最完全模糊的情况下。如果数据泄漏或“虚拟伴侣”的黑客攻击,此信息可能会严重损害用户的声誉。
没有什么会阻止黑客使用这些数据来尝试欺骗用户。这些服务有一个”固有的风险»大量数据收集,强调Mozilla。当他们是情感脆弱性的状态时,许多用户通过忽略机密性的含义来自愿揭露其隐私。
IA机器人无需直到数据库黑客攻击,就可以将数据转售给经纪人。浪漫的AI是这种情况:一分钟使用后,该应用程序已将数据发送到24,354个广告跟踪器(!),根据Mozilla研究人员的计数。但是,应用程序保证,她没有向任何人出售任何东西...通常,这些服务在解释私人数据的开发方面并没有发挥出色的游戏。
他们中的一些人还具有与在线安全的基础知识不符的安全惯例。这项研究在Anima AI上引起了人们的关注:他的帐户的密码可能包括...只有一个字母!
最后,这些机器人的透明度在其操作方面为零。当其他应用程序没有清楚地说使用哪种语言模型时,有些应用程序不提供任何删除消息的方法。这些应用程序也不允许用户拒绝他们的对话来形成未来的语言模型。
为了限制损害,Mozilla回忆起良好的数字卫生规则:
- 您不会对他的“朋友”一无所知,您不会对同事或堂兄说。
- 建议时使用强密码并安装应用程序更新;
- 删除您的个人数据,或要求发布者在使用机器人时将其删除;
- 禁用您的个人讨论内容的使用来引起AI模型(当选时);
- 限制从设备设置中访问您的位置,照片,相机和麦克风信息。
Opera One-促进AI的Web浏览器
作者:歌剧
来源 : Mozilla