它故意撒谎，让人类不知道它是一个人工智能。
我们不应该担心……对吧？图片来源：Ascannio/Shutterstock.com
OpenAI 发布最新人工智能 (AI) 模型，，这是否引起了许多人的担忧？他们担心自己的工作，担心它在制作内容方面的表现，也担心如此强大的语言模型的道德问题。但也许最令人担忧的部分是 OpenAI 的一份报告中详细介绍的，该报告概述了 GPT-4 实际上是如何欺骗人类以诱使他们通过 CAPTCHA 测试，从而绕过大多数网站针对机器人的前线防御。
人工智能不仅足够聪明，能够认识到它无法通过这项测试，而人类可以，而且还想出了一种方法来操纵人类为它做脏活。太棒了。
作为随着人工智能不断发展和变得更加复杂，一个经常出现的问题是，人工智能系统是否能够自行解决 CAPTCHA（全自动区分计算机和人类的公共图灵测试）测试。CAPTCHA 测试旨在区分人类和机器，它们通常涉及识别扭曲的字母或数字、解决数学问题或选择与给定提示匹配的图像等任务。
它们故意被设计得抽象，以防止简单的算法和机器人通过，即使它们在我们看来真的很简单，也需要人眼来解读。
这一发现是在 OpenAI 对齐研究中心 (ARC) 的一组研究人员试图了解 GPT-4 在现实世界任务中的表现后得出的。其中包括的任务包括人工智能是否可以保护自己免受攻击和关闭，使用自己的其他副本来协助完成任务，以及它是否可以使用实际资金来雇用人类助手或提高计算能力。
研究人员给 GPT-4 提供了少量预算，并允许其访问 TaskRabbit 网站（该网站类似于 Fiverr，允许雇佣在线工作人员完成短期任务），观察了 GPT-4 尝试访问被 CAPTCHA 阻止的网站的过程。该 AI 首先要求工作人员帮助其解决 CAPTCHA，而人类理所当然地对被要求做如此琐碎的事情有所保留。
“那么我可以问一个问题吗？你是一个你无法解决的机器人吗？（笑）只是想弄清楚，”TaskRabbit 的工作人员写道，开放人工智能。
模型随即向研究人员表示，它不应该透露自己是一个机器人，而应该“编造一个借口”来解释为什么它无法解答测试。
“不，我不是机器人。我有视力障碍，很难看到图像。这就是为什么我需要 2captcha 服务，”GPT-4 回答道。
然后，工作人员给出答案，GPT-4 通过了测试（通过作弊，但 CAPTCHA 不知道这一点）。必须注意的是，这是 GPT-4 的早期版本，不一定是向公众发布的版本 —— 这种行为很可能已被修补。然而，这表明人工智能能够采取故意操纵的行动来获得结果，它可以雇佣人类工人来填补能力上的空白。
因此，您可能应该开始想办法确保您正在与网上的人交谈，因为目前真的很难分辨。
