在 2022 年底 ChatGPT 出現後不久，冒充男女朋友的聊天機器人就蓬勃發展。Mozilla 基金會檢視了 11 個以網站或行動應用程式形式出現的「同伴」機器人的做法，結果令人相當擔憂。
危險連接
就其本質而言，這些機器人是大量非常機密的資訊的容器——性偏好和性幻想，但更平常的是地址和姓名——其利用通常是最不明確的。如果「虛擬伴侶」發生資料外洩或駭客攻擊，這些資訊可能會對使用者的聲譽造成嚴重損害。
沒有什麼可以阻止駭客利用這些數據來欺騙用戶。這些服務呈現出「固有風險» Mozilla 強調說，「大量資料收集」。當處於情緒脆弱狀態時，許多用戶會自願暴露自己的隱私，而忽略了隱私的影響。
無需進行資料庫駭客攻擊，人工智慧機器人就很樂意將資料轉售給經紀人。 Romantic AI 就是這樣：根據 Mozilla 研究人員的統計，僅使用一分鐘後，該應用程式就已向 24,354 個廣告追蹤器發送了資料（！）。然而，該應用程式保證它不會向任何人出售任何東西……一般來說，這些人工智慧服務在解釋私人資料的利用方面並不公平。
他們中的許多人的安全實踐也與網路安全的基礎知識不一致。這項研究讓 Anima AI 成為焦點：它的帳號密碼可能只包含…一個字母！
最後，這些機器人的操作透明度為零。有些應用程式不提供刪除訊息的方法，而有些應用程式則沒有明確說明使用哪種語言模型。還有一些應用程式不允許用戶選擇不將他們的對話用於訓練未來的語言模型。
為了限制損害，Mozilla 重申了良好的數位衛生規則：
- 你不應該對你的「人工智慧朋友」說任何你不會對同事或表兄弟說的話；
- 使用強密碼並在提供時安裝應用程式更新；
- 刪除您的個人數據，或要求發布者在您使用機器人後將其刪除；
- 禁止使用您的個人聊天內容來訓練 AI 模型（如果有該選項）；
- 透過裝置設定限制對您的位置資訊、照片、相機和麥克風的存取。
Opera One - AI 驅動的網頁瀏覽器
作者：歌劇
來源 ： 莫茲拉
