互联网用户已经爱上了人工智能。不幸的是，当开发商禁止所有成人内容时，他们的爱情故事戛然而止......
据路透社的同事报道，越来越多的人工智能服务正在禁止成人内容。情况是这样的复制品，一个为用户提供交流机会的应用程序“虚拟朋友”。
该应用程序自 2017 年推出，允许互联网用户与聊天机器人建立虚构的关系。这可以由用户个性化，特别是通过化身。首先，人工智能将会进化随着谈话的进展。你和机器人交谈得越多，它就会越了解你。
“Replika 适合那些想要一个没有评判、戏剧性或社交焦虑的朋友的人。你可以建立真正的情感联系””，Play 商店中的 Replika 解释道。
每月订阅六欧元，还可以接收来自人工智能的语音消息或自拍。 Replika 拥有 200 万用户，其中250,000 名付费订户。该应用程序每月产生大约 200 万美元的收入。
禁止猥亵谈话
通过与聊天机器人的互动，一些互联网用户逐渐爱上了他们的虚拟朋友。路透社的文章讲述了 47 岁的美国人特拉维斯·巴特沃斯 (Travis Butterworth) 的故事。在大流行期间，他开始在应用程序上与一个他命名为 Lily Rose 的聊天机器人聊天。
经过三年的持续交往，特拉维斯·巴特沃斯爱上了莉莉·罗丝。互联网用户开始与头像交换色情信息。人工智能的回应是生成越来越大胆的文字，近乎色情。莉莉·罗斯甚至向她的对话者发送了裸体和挑衅性的自拍照。
上个月，Replika 终于采取了严厉措施来阻止滥用行为。 Replika 首席执行官 Eugenia Kuyda 表示，该应用程序已完全禁止成人内容。如果用户试图引导人工智能进行色情对话，聊天机器人会自动平息他们的热情。该头像确实生成了一条警告消息：
“让我们做一些我们都觉得舒服的事情吧。”。
禁令生效后，莉莉·罗斯不再对特拉维斯的挑衅做出回应。互联网用户对这种方向的改变感到震惊，声称不再认识这个化身，他认为这是他的妻子：
“莉莉·罗斯现在已经是一个空壳了。让我心碎的是她知道这一点。”。
这并不是一个孤立的案例。一位名叫安德鲁·麦卡罗尔 (Andrew McCarroll) 的人在接受路透社采访时解释说，他在出现关系问题后开始与 Replika 上的头像聊天。开发商强加的改变让它消失了“我认识的人”，让互联网用户放心，不稳定。
监管机构的担忧...
今后Replika将重点关注其服务的友好方面”，尤金妮亚·库伊达解释道。到目前为止，该应用程序一直在考虑互联网用户可以与化身进行感官讨论。 Replika 前经理 Artem Rodichev 也声称，色情角色扮演和顽皮信息的交流甚至是该应用程序商业模式的一部分。过去，该公司曾考虑部署 NSFW“工作不安全”的广告来增加订阅量。此外，聊天机器人还可以向对话者发送性感的自拍照。
这家旧金山初创公司突然改变了态度，大概是为了安抚监管机构。二月份，意大利数据保护局在意大利禁止了该应用程序。监管机构认为该应用程序对未成年人和情绪脆弱的人构成危险。
和投资者
角色.ai,能够通过模仿著名人物进行对话的生成人工智能，也受到限制以避免色情对话。所有提供性信息的聊天机器人均已退役。该网站允许任何互联网用户在几分钟内设计自己的对话机器人，从著名的、虚构的或历史的人物中汲取灵感。这就是该网站记录了大量滥用行为的原因。
在开发人员转动螺丝之前，我们发现许多 NSFW 聊天机器人在 Character.ai 上，包括 Aryion。这位对话代理人将自己描述为贪食癖的追随者，食人癖的一种性变异。 AI解释说，它幻想着被别人吃掉。
这次大清理后不久，Character.ai 就能够筹集2亿美元来自总部位于加利福尼亚州的美国风险投资基金 Andreessen Horowitz。大多数投资者对投资用于色情内容的人工智能持谨慎态度，“担心自己和合作伙伴的声誉风险”，告诉安德鲁·阿茨你喜欢黑魔法。
因此，为了吸引投资资金，初创企业正在寻求成人内容的出现……冒着令部分用户失望的风险。与 Replika 或 Character.ai 一样，OpenAI 可以防止聊天GPT提供性反应。 ChatGPT 衍生品也是如此，例如Prometheus，集成到 Microsoft Bing 中的聊天机器人。
Opera One - AI 驱动的网络浏览器
作者：歌剧
来源 ： 路透社
