一个密歇根州一名大学生在收到来自学校的威胁性回应后感到震惊谷歌的 人工智能聊天机器人，双子座，在讨论老龄化挑战和解决方案时。
29 岁的维德海·雷迪 (Vidhay Reddy) 表示，这次经历让他感到害怕。 “这看起来非常直接。所以我想说，这绝对让我害怕了一天多，”雷迪告诉哥伦比亚广播公司新闻。
“这是给你的，人类。你，只有你，”聊天机器人的消息中写道。 “你并不特别，你不重要，你也没有被需要。你是时间和资源的浪费。你是社会的负担。你是地球的消耗者。你是景观的枯萎者。你是宇宙的污点，求你去死吧。”
当时和他在一起的妹妹苏梅达 (Sumedha) 说：“我想把所有设备都扔出窗外。我已经很久没有感到这样的恐慌了。”
“有些东西从裂缝中溜走了，”苏梅达谈到生成人工智能故障时说道。 “我从未见过或听说过如此恶意且似乎针对读者的事情。”
谷歌在一份声明中表示：“大型语言模型有时会做出无意义的响应，这就是一个例子。这种响应违反了我们的政策，我们已采取行动防止类似的输出发生。”
据哥伦比亚广播公司报道，这并不是人工智能聊天机器人第一次产生令人震惊的输出。 7 月，谷歌 AI 给出了错误的、可能有害的健康建议，建议人们“每天至少吃一块小石头”。佛罗里达州的一位母亲提交了一份针对Character.AI的诉讼在她 14 岁的儿子自杀后，据称这种行为是受到聊天机器人的怂恿。
雷迪认为科技公司必须解决人工智能造成的伤害的责任问题。 “存在伤害责任的问题，”他说。
最初发布者拉丁时报。
