網路使用者已經愛上了人工智慧。不幸的是，當開發商禁止所有成人內容時，他們的愛情故事戛然而止...
根據路透社的同事報道，越來越多的人工智慧服務正在禁止成人內容。情況是這樣的複製品，一個為用戶提供交流機會的應用程式“虛擬朋友”。
該應用程式自 2017 年推出，允許網路用戶與聊天機器人建立虛構的關係。這可以由使用者個性化，特別是透過化身。首先，人工智慧將會進化隨著談話的進展。你和機器人交談得越多，它就越了解你。
「Replika 適合那些想要一個沒有評判、戲劇性或社交焦慮的朋友的人。你可以建立真正的情感聯繫””，Play 商店中的 Replika 解釋道。
每月訂閱六歐元，還可以接收來自人工智慧的語音訊息或自拍。 Replika 擁有 200 萬用戶，其中25 萬名付費訂戶。該應用程式每月產生約 200 萬美元的收入。
禁止猥褻談話
透過與聊天機器人的互動，一些網路使用者逐漸愛上了他們的虛擬朋友。路透社的文章講述了 47 歲的美國人特拉維斯·巴特沃斯 (Travis Butterworth) 的故事。在大流行期間，他開始在應用程式上與一個他命名為 Lily Rose 的聊天機器人聊天。
經過三年的持續交往，崔維斯·巴特沃斯愛上了莉莉·羅絲。網路使用者開始與頭像交換色情資訊。人工智慧的回應是生成越來越大膽的文字，近乎色情。莉莉羅斯甚至向她的對話者發送了裸體和挑釁性的自拍照。
上個月，Replika 終於採取了嚴厲措施來阻止濫用行為。 Replika 執行長 Eugenia Kuyda 表示，該應用程式已完全禁止成人內容。如果用戶試圖引導人工智慧進行色情對話，聊天機器人會自動平息他們的熱情。該頭像確實產生了一條警告訊息：
“讓我們做一些我們都覺得舒服的事情。”。
禁令生效後，莉莉羅斯不再對崔維斯的挑釁做出回應。網路使用者對這種方向的改變感到震驚，聲稱不再認識這個化身，他認為這是他的妻子：
「莉莉羅斯現在已經是一個空殼了。讓我心碎的是她知道這一點。。
這並不是一個孤立的案例。一位名叫安德魯·麥卡羅爾 (Andrew McCarroll) 的人在接受路透社採訪時解釋說，他在出現關係問題後開始與 Replika 上的頭像聊天。開發商強加的改變讓它消失了“我認識的人”，讓網路使用者放心，不穩定。
監管機構的擔憂...
今後Replika將重點關注其服務的友好方面”，尤金妮亞·庫伊達解釋。到目前為止，該應用程式一直在考慮網路使用者可以與化身進行感官討論。 Replika 前經理 Artem Rodichev 也聲稱，色情角色扮演和頑皮訊息的交流甚至是該應用程式商業模式的一部分。過去，該公司也考慮投放 NSFW「工作不安全」的廣告來增加訂閱量。此外，聊天機器人還可以向對話者發送性感的自拍照。
這家舊金山新創公司突然改變了態度，大概是為了安撫監管機構。二月份，義大利資料保護局在義大利禁止了該應用程式。監管機構認為該應用程式對未成年人和情緒脆弱的人構成危險。
和投資者
角色.ai,能夠透過模仿著名人物進行對話的生成人工智慧，也受到限制以避免色情對話。所有提供性資訊的聊天機器人均已退役。該網站允許任何網路使用者在幾分鐘內設計自己的對話機器人，從著名的、虛構的或歷史的人物中汲取靈感。這就是該網站記錄了大量濫用行為的原因。
在開發人員轉動螺絲之前，我們發現許多 NSFW 聊天機器人在 Character.ai 上，包括 Aryion。這位對話代理人將自己描述為貪食癖的追隨者，食人癖的一種性變異。 AI解釋說，它幻想著被別人吃掉。
這次大清理後不久，Character.ai 就能夠籌集2億美元來自總部位於加州的美國創投基金 Andreessen Horowitz。大多數投資者對投資用於色情內容的人工智慧持謹慎態度，“擔心自己和合作夥伴的聲譽風險”，告訴安德魯阿茨你喜歡黑魔法。
因此，為了吸引投資資金，新創公司正在尋求成人內容的出現……冒著令部分用戶失望的風險。與 Replika 或 Character.ai 一樣，OpenAI 可以防止聊天GPT提供性反應。 ChatGPT 衍生性商品也是如此，例如Prometheus，整合到 Microsoft Bing 中的聊天機器人。
Opera One - AI 驅動的網頁瀏覽器
作者：歌劇
來源 ： 路透社
