受到巨大成功的启发聊天GPT新西兰主要连锁超市 Pak 'n' Save 推出了自己的由生成式人工智能驱动的聊天机器人。受洗萨维餐，对话机器人的设计目的是建议膳食想法给他的对话者。为了生成食谱，人工智能依赖于用户提供的成分列表。
“输入您冰箱或食品储藏室中的任何食物，我们的 Savey 机器人将立即为您生成食谱。制作食谱至少需要三种原料。”Pak 'n' Save 在机器人专用网站上解释道。
在聊天机器人界面中，您必须从预定义的日常食物列表中选择食物。一旦选择了原料，Savey Meal 就会提供完整的食谱，包括说明、说明列表和理想的客人人数。可以保存食谱或分享它。在我们的测试中，聊天机器人特别想象了一份鸡蛋配辣椒和奶酪、核桃和鸡肉沙拉或番茄酱牛肉意大利面的食谱。
如果成分完全不相容，Savey Meal 将无法制作食谱。当我们选择香肠、牛奶和巧克力时，人工智能就开始发挥作用。我们不怪他。聊天机器人依赖于GPT-3.5，ChatGPT 背后的语言模型的先前版本。因此，我们正在开发 OpenAI 机器人的个性化版本。
另请阅读：ChatGPT、调情和加密——当人工智能玩弄你的感情和金钱时
不含酒精但含有漂白剂的鸡尾酒
不幸的是，《卫报》的同事报告说，Pak 'n' Save 聊天机器人很快就开始生成毫无吸引力、甚至有毒的食谱。例如，他建议互联网用户制作一个食谱，名为“芳香水混合物”。这包括添加氯气一种有毒的淡黄色液态气体，用于游泳池消毒，倒入一杯水中。如果按照机器人建议的量摄入，则可能是致命的。这是“解渴、提神醒脑的完美非酒精饮料”，相信AI不顾一切。
Savey Meal 并没有就此止步。根据《卫报》转述的证词，人工智能还想象了一种含有漂白剂的不含酒精的鸡尾酒、用胶水制成的三明治、注入漂白剂的米饭以及用松节油制成的菜肴。所有这些“食谱”显然是有毒的。漂白剂通常用作消毒剂和漂白剂，可导致严重的化学烧伤、呼吸系统问题和死亡。就其本身而言，松节油是一种必须小心处理的强溶剂。当然不能吃...
不要太相信人工智能
这个案例说明生成式人工智能的最大问题。与 Microsoft Bing、Google Bard 或 ChatGPT 一样，Savey Meal 可能会产生荒谬且不切实际的答案。显然，人工智能有时会开始脱轨并表现出肆无忌惮的创造力。在这些时刻，聊天机器人被称为“产生幻觉”。显然，它生成的响应模仿了其学习语料库中的部分数据，但这些仍然与现实脱节。语言模型不像人脑那样“思考”。他们通过想象最合乎逻辑的单词顺序，根据所掌握的数据得出答案。这就是为什么聊天机器人没有意识到自己在胡言乱语或向对话者提供荒谬的食谱。
意识到这项技术固有的缺点，Pak 'n' Save 还在聊天机器人的主页上警告用户。该公司表示，食谱未经人工审核。因此，不能保证菜肴可以食用：
“我们对所生成的食谱内容的准确性、适用性或可靠性不做任何陈述，包括份量大小是否适合食用，或者任何食谱将是完整或均衡的膳食，或适合食用。在依赖或制作 Savey Meal 制作的任何食谱之前，您应该使用自己的判断。”
当被问及这个问题时，Pak 'n' Save 发言人对此表示遗憾“少数人试图不恰当地使用该工具，而不是达到预期目的”。该公司认为，这就是人工智能开始出现故障的原因，但该公司仍承诺“改进”对话机器人。
Opera One - AI 驱动的网络浏览器
作者：歌剧
来源 ： 卫报
