ChatGPT 是迄今为止最新、最令人印象深刻的人工智能聊天机器人。它于两周前发布，仅五天就吸引了 100 万用户。它的使用量如此之大，以至于它的服务器已经达到容量的几次。
开发该软件的公司 OpenAI 已经被视为可能成为谷歌的杀手。ChatGPT 可以写出一整段文字来解释答案，为什么还要在搜索引擎上查找呢？（甚至还有Chrome 扩展程序使你们能够同时完成这两项工作。)
但是如果我们不知道 ChatGPT 功能背后的秘密该怎么办？
这款聊天机器人利用了过去几十年在公开科学文献中发表的多项技术进步。但它独有的任何创新都是秘密的。OpenAI 很可能试图建立一条技术和商业护城河，以阻止其他人进入。
它能做什么（不能做什么）
ChatGPT非常有能力。想听一首关于聊天机器人的俳句吗？当然可以。
聊天机器人真聪明
不断处理
来自虚空的答案。
开个关于聊天机器人的玩笑怎么样？没问题。
聊天机器人为什么要过马路？
要到达屏幕的另一侧？！
ChatGPT 可以做到许多其他技巧.它可以写计算机代码根据用户的规范，起草商业信函或租赁合同，撰写家庭作业论文，甚至通过大学考试。
同样重要的是 ChatGPT 无法做到的事情。例如，它很难区分真假。它也常常是一个有说服力的骗子。
速度最快的海洋哺乳动物是什么？
速度最快的海洋哺乳动物是旗鱼。
旗鱼不是哺乳动物。
你说得对，旗鱼不是哺乳动物。我为这个错误道歉。最快的海洋哺乳动物是游隼。
ChatGPT 有点像手机上的自动完成功能。你的手机经过了词典的训练，因此它可以完成单词。ChatGPT 几乎接受了所有网络的训练，因此可以完成整个句子？甚至整个段落。
然而，它不明白自己在说什么，只是知道接下来最有可能出现的词是什么。
仅按名称打开
过去，人工智能的进步伴随着同行评审的文献。
例如，2018 年，当 Google Brain 团队开发出目前大多数自然语言处理系统所基于的 BERT 神经网络时（我们怀疑 ChatGPT 也是如此），这些方法发表在同行评审的科学论文中，代码是开源的。
2021 年，DeepMind 的蛋白质折叠软件 AlphaFold 2 被《科学》杂志评为年度突破。该软件及其结果是开源的，因此世界各地的科学家都可以使用它们来推动生物学和医学的发展。
ChatGPT 发布后，我们只有一篇简短的博客文章描述了它的工作原理。没有任何迹象表明会发布相关科学出版物，也没有任何迹象表明代码会开源。
要理解为什么 ChatGPT 能够保密，你必须了解一些其背后的公司。
OpenAI 可能是硅谷最奇怪的公司之一。设立为非营利组织2015 年，旨在以“造福全人类”的方式推广和发展“友好型”人工智能。埃隆·马斯克、彼得·泰尔和其他科技界领军人物承诺为实现这一目标捐赠 10 亿美元。
他们的想法是，我们不能相信营利性公司能够开发出与人类繁荣相符的、功能日益强大的人工智能。因此，人工智能需要由非营利组织开发，而且正如其名称所暗示的那样，需要以开放的方式开发。
2019 年 OpenAI转变为一家有上限的营利性公司（投资者的最高回报不得超过其投资的 100 倍），并从微软获得了 10 亿美元的投资，以便扩大规模并与科技巨头竞争。
看来资金阻碍了 OpenAI 最初的开放计划。
从用户身上获利
除此之外，OpenAI 似乎正在利用用户的反馈来过滤掉 ChatGPT 幻觉中的虚假答案。
根据它的博客，OpenAI 最初在 ChatGPT 中使用强化学习，使用昂贵的手工构建的训练集来降低虚假和/或有问题的答案的排名。
但 ChatGPT 现在似乎正受到其 100 多万用户的青睐。我想，以任何其他方式获取这种人工反馈的成本都会高得令人望而却步。
我们现在面临着人工智能取得重大进步的前景，这种进步将使用科学文献中未描述的方法，并且数据集仅限于一家名义上开放的公司。
下一站是哪里？
过去十年，人工智能的快速发展很大程度上得益于学术界和商界的开放态度。我们拥有的所有主要人工智能工具都是开源的。
但在开发更强大的人工智能的竞赛中，这种情况可能即将结束。如果人工智能的开放性减弱，我们可能会看到该领域的进步因此而放缓。我们还可能看到新的垄断企业的发展。
如果历史可以作为参考，我们知道缺乏透明度是科技领域不良行为的诱因。因此，当我们继续赞扬（或批评）ChatGPT时，我们不应该忽视它出现的背景。
除非我们小心谨慎，否则那些看似标志着人工智能黄金时代的事物实际上可能标志着它的终结。
托比沃尔什，新南威尔士大学人工智能教授，研究小组负责人，新南威尔士大学悉尼分校
