ChatGPT 是迄今为止最新、最令人印象深刻的人工智能聊天机器人。它于两周前发布，短短五天内就突破了一百万用户。它的使用量如此之大，以至于它的服务器已经多次达到容量。
开发它的 OpenAI 公司已经被视为潜在的 Google 杀手。当 ChatGPT 可以写出一整段来解释答案时，为什么要在搜索引擎上查找某些内容呢？ （甚至还有Chrome 扩展程序这让你可以同时做这两件事。）
但如果我们永远不知道 ChatGPT 功能背后的秘密怎么办？
该聊天机器人利用了过去几十年开放科学文献中发表的许多技术进步。但它独有的任何创新都是秘密。 OpenAI 很可能试图建立一条技术和商业护城河，将其他人拒之门外。
它能做什么（和不能做什么）
聊天GPT非常有能力。想要聊天机器人上的俳句吗？当然。
聊天机器人，太聪明了
无尽的加工
来自虚空的答案。
关于聊天机器人的笑话怎么样？没问题。
聊天机器人为什么要过马路？
到达屏幕的另一边！
ChatGPT 可以做许多其他技巧。它可以写计算机代码根据用户的要求，起草商业信函或租赁合同，撰写作业论文，甚至通过大学考试。
同样重要的是 ChatGPT 无法做到的事情。例如，它很难区分真理和谎言。它也常常是一个有说服力的骗子。
速度最快的海洋哺乳动物是什么？
最快的海洋哺乳动物是旗鱼。
旗鱼不是哺乳动物。
你是对的，旗鱼不是哺乳动物。我为这个错误道歉。最快的海洋哺乳动物是游隼。
ChatGPT 有点像手机上的自动完成功能。您的手机接受了单词词典的训练，因此可以完成单词。 ChatGPT 几乎在所有网络上进行了训练，因此可以完成整个句子，甚至整个段落。
然而，它不明白自己在说什么，只是不明白接下来最有可能出现的词是什么。
仅按名称打开
过去，人工智能的进步伴随着同行评审的文献。
例如，2018 年，当 Google Brain 团队开发了现在大多数自然语言处理系统都基于的 BERT 神经网络（我们怀疑 ChatGPT 也是如此）时，这些方法发表在同行评审的科学论文和代码中是开源的。
2021 年，DeepMind 的 AlphaFold 2（一种蛋白质折叠软件）科学的 年度突破。该软件及其结果是开源的，因此世界各地的科学家都可以使用它们来推进生物学和医学的发展。
ChatGPT 发布后，我们只有一篇简短的博客文章描述其工作原理。没有任何迹象表明会附带科学出版物，也没有迹象表明代码将开源。
要理解为什么 ChatGPT 可以保密，你必须了解一些它背后的公司。
OpenAI 或许是硅谷诞生的最奇怪的公司之一。原来是设立为非营利组织2015年，以“造福全人类”的方式促进和发展“友好”人工智能。、Peter Thiel 和其他领先的科技人物承诺为实现其目标提供 10 亿美元。
他们的想法是，我们不能相信营利性公司能够开发出能力越来越强、与人类繁荣相一致的人工智能。因此，人工智能需要由非营利组织开发，并且顾名思义，以开放的方式进行开发。
2019年OpenAI转变为一家有上限的营利性公司（投资者的最高回报不得超过其投资的 100 倍），并从微软获得了 10 亿美元的投资，以便它能够扩大规模并与科技巨头竞争。
资金似乎阻碍了 OpenAI 最初的开放计划。
从用户身上获利
最重要的是，OpenAI 似乎正在利用用户的反馈来过滤掉 ChatGPT 幻想的虚假答案。
根据它的博客，OpenAI 最初在 ChatGPT 中使用强化学习，使用昂贵的手工构建的训练集来降低虚假和/或有问题的答案的排名。
但 ChatGPT 现在似乎正在受到超过一百万用户的关注。我想以任何其他方式获取这种人类反馈的成本都将高得令人望而却步。
我们现在面临着人工智能取得重大进步的前景，它使用的方法在科学文献中没有描述过，而且数据集仅限于一家似乎只在名义上开放的公司。
接下来去哪里？
在过去的十年中，人工智能的快速发展在很大程度上归功于学术界和企业界的开放。我们拥有的所有主要人工智能工具都是开源的。
但在开发能力更强的人工智能的竞赛中，这种情况可能会结束。如果人工智能的开放性减少，我们可能会看到该领域的进步因此放缓。我们还可能看到新的垄断的发展。
如果以史为鉴的话，我们知道缺乏透明度会引发科技领域的不良行为。因此，当我们继续赞扬（或批评）ChatGPT 时，我们不应该忽视它出现的环境。
除非我们小心谨慎，否则看似标志着人工智能黄金时代的事情实际上可能标志着它的终结。
托比·沃尔什，新南威尔士大学人工智能教授，研究组组长，新南威尔士大学 悉尼
