科学发现是最复杂的人类活动之一。首先，科学家必须了解现有知识并找出重大差距。
接下来，他们必须提出研究问题并设计和进行实验以寻求答案。
然后，他们必须分析和解释实验结果，这可能会提出另一个研究问题。
如此复杂的流程可以自动化吗？上星期，Sakana 人工智能实验室宣布创造“人工智能科学家”——他们声称该系统可以在以下领域做出科学发现以完全自动化的方式。
使用诸如 ChatGPT 和其他人工智能聊天机器人背后的生成式大语言模型 (LLM)，该系统可以集思广益，选择一个有前途的想法，编写新算法，绘制结果，并撰写一篇论文，总结实验及其发现，并附上参考文献。
Sakana 声称，人工智能工具可以承担科学实验的整个生命周期，每篇论文的成本仅为 15 美元，比科学家午餐的费用还要少。
这些都是一些重要的主张。它们堆积起来了吗？即使他们这样做了，一群人工智能科学家以非人的速度写出研究论文真的对科学来说是个好消息吗？
计算机如何“做科学”
许多科学都是公开进行的，几乎所有科学知识都被记录在某个地方（否则我们就没有办法“了解”它）。数以百万计的科学论文可以在以下存储库中免费在线获取：arXiv和考研。
使用这些数据训练的法学硕士可以捕捉科学语言及其模式。因此，生成式法学硕士能够产出看起来像一篇优秀的科学论文的东西也许并不奇怪——它吸收了许多可以复制的例子。
不太清楚的是人工智能系统是否可以产生有趣的科学论文。至关重要的是，好的科学需要新颖性。
但这有趣吗？
科学家不想被告知已知的事情。相反，他们想学习新事物，尤其是与已知事物显着不同的新事物。这需要对贡献的范围和价值进行判断。
Sakana 系统试图通过两种方式来解决兴趣问题。首先，它对新论文想法与现有研究的相似性进行“评分”（索引在语义学者存储库）。任何太相似的东西都会被丢弃。
其次，Sakana的系统引入了““步骤——使用另一个法学硕士来判断生成的论文的质量和新颖性。同样，在网站上有很多同行评审的例子，例如开放评论网这可以指导如何批评一篇论文。法学硕士也吸收了这些。
人工智能对人工智能输出的判断可能很差
对 Sakana AI 输出的反馈褒贬不一。有些人将其描述为生产“无尽的科学斜坡”。
即使是系统自己对其输出的审查也只能判断这些论文很弱。随着技术的发展，这种情况可能会得到改善，但自动化科学论文是否有价值的问题仍然存在。
法学硕士判断研究质量的能力也是一个悬而未决的问题。我自己的作品（即将发表于研究合成方法）表明法学硕士不擅长判断医学研究中的偏倚风险，尽管随着时间的推移，这也可能会有所改善。
Sakana 的系统可以自动化计算研究中的发现，这比需要物理实验的其他类型的科学要容易得多。 Sakana 的实验是通过代码完成的，代码也是法学硕士可以训练生成的结构化文本。
人工智能工具支持科学家，而不是取代他们
几十年来，人工智能研究人员一直在开发支持科学的系统。鉴于已发表的研究数量巨大，即使找到与特定科学问题相关的出版物也可能具有挑战性。
专门的搜索工具利用人工智能来帮助科学家查找和综合现有的工作。其中包括上述语义学者，但也包括较新的系统，例如引出,研究兔,知道和共识。
文本挖掘工具，例如酒吧塔托深入研究论文以确定重点关注点，例如特定的基因突变和疾病及其已建立的关系。这对于策划和组织科学信息特别有用。
机器学习还被用于支持医学证据的综合和分析，例如机器人评审员。比较和对比论文中的主张的摘要学术帮助进行文献综述。
所有这些工具都旨在帮助科学家更有效地完成工作，而不是取代他们。
人工智能研究可能会加剧现有问题
而坂名AI州尽管人类科学家的作用并没有减弱，但该公司“完全由人工智能驱动的科学生态系统”的愿景将对科学产生重大影响。
一个担忧是，如果人工智能生成的论文充斥科学文献，未来的人工智能系统可能会接受人工智能输出的训练并经历模型崩溃。这意味着他们在创新方面可能会变得越来越无效。
然而，对科学的影响远远超出了对人工智能科学系统本身的影响。
科学界已经出现了不良行为者，包括生产“造纸厂”假论文。这个问题只会变得更糟当一篇科学论文可以用 15 美元和一个模糊的初始提示完成时。
检查大量自动生成的研究中的错误的需要可能会迅速超出实际科学家的能力。同行评审制度可以说是已经坏了，并且将更多质量有问题的研究倾倒到系统中并不能解决这个问题。
科学从根本上来说是建立在信任的基础上的。科学家强调科学过程的完整性，这样我们就可以确信我们对世界（以及现在世界上的机器）的理解是有效的并且正在不断改进。
人工智能系统是关键参与者的科学生态系统提出了关于这一过程的意义和价值的基本问题，以及我们应该对人工智能科学家拥有何种程度的信任。这就是我们想要的科学生态系统吗？
