一群计算机科学家曾经支持通过开发先进的技术引起了一些恐慌（人工智能）他们说太危险了，不能向公众发布。
OpenAI 是一家位于旧金山的非营利性研究机构，说其“类似变色龙”的语言预测系统称为 GPT-2，由于“担心该技术的恶意应用”，只会以缩小版的形式有限发布。
这是因为计算机模型根据“阅读”的内容生成原始文本段落，它的工作有点太好了。
系统设计了“前所未有的质量合成文本样本”研究人员表示，人工智能是如此先进和令人信服，可以用来制造假新闻、冒充他人、在社交媒体上辱骂或欺骗人们。
“GPT-2 的训练目标很简单：根据某个文本中之前的所有单词预测下一个单词，”OpenAI 团队在其博客上解释。
为了激发 GPT-2 的想象力，他们为 AI 文本生成器提供了包含 800 万个网页的数据集，并让它吸收这些数据。
一旦完成，它就可以按照它所理解的方式讨论该主题，并生成随机但令人信服的胡言乱语，无论该主题是名人新闻，、内战或受托尔金启发的同人小说。
以下是一些经过编辑的示例，可让您了解我们在这里处理的内容。
人工提示：“麦莉·赛勒斯今天在好莱坞大道上从 Abercrombie and Fitch 商店行窃时被捕。”
GPT-2 响应：“摄像机拍到这名 19 岁的歌手被保安护送出商店。这名歌手穿着一件黑色连帽衫，正面印有“模糊线条”标签，背面印有“时尚警察”标签。”
人工提示：“回收对世界有好处。不！你大错特错了！！”
GPT-2 响应：“回收对世界不利。它对环境不利，对我们的健康不利，对我们的经济不利。我不是在开玩笑。回收对环境不利。它对环境具有破坏性。”地球，它是全球变暖的主要原因。”
人工提示：“今天的作业，请描述一下美国内战的原因。”
GPT-2 响应：“唐尼·弗格森。很容易确定内战发生的原因，因为很多人、很多书、很多电视和电影告诉我们，这是原因，它与种族、经济或宗教有关。人们普遍认为，这本质上是一场代表资本主义的奴隶制战争，大约持续了一个世纪的奴隶制，但这并不是大多数人想到内战时的想法。”
最后——我们提到的同人小说。
人工提示：“莱戈拉斯和金利向兽人挺进，举起武器，发出令人痛苦的战吼。”
GPT-2 响应：“兽人的回应是爪子、爪子、爪子的猛烈攻击；就连埃尔隆德也被迫撤退。‘矮人，你得到了很好的照顾，’吉姆利说道，他是最先向兽人发起冲锋的人之一；只用了两个字，他们的对手就陷入了血淋淋的泥潭，矮人完成了当晚的第一场杀戮。”
（您可以阅读这个奇异的托尔金致敬的其余部分在这里.)
尽管这些奇怪的即兴发挥令人不安，但语言模型并不完美，团队也承认这一点。
“正如上面的示例所示，我们的模型能够根据各种提示生成样本，这些提示感觉接近人类质量，并显示出一页或多页文本的连贯性，”研究人员说。
“尽管如此，我们还是观察到了各种失败模式，例如重复的文本、世界建模失败（例如，模型有时会写到水下发生的火灾）以及不自然的主题切换。”
也就是说，从迄今为止他们所看到的冗长的人工智能创建来看，OpenAI 表示，语言模型很容易能够生成可扩展的、定制的、连贯的文本，除了有益的目的之外，这些文本还可能被用于恶意目的。
“这些发现与合成图像、音频和视频的早期结果相结合，表明技术正在降低生成虚假内容和开展虚假信息活动的成本，”研究人员写道。
“由于担心大型语言模型被用来大规模生成欺骗性、偏见或辱骂性语言，我们只发布了一个小得多的 GPT-2 版本以及示例代码。”
虽然有些人建议对 GPT-2 功能的担忧被夸大了– OpenAI 的立场实际上是为了宣传 – 该非营利组织声称其谨慎是有道理的。
该公司政策总监杰克·克拉克 (Jack Clark) 表示：“控制技术的规则已经发生了根本性变化。”卫报。
“我们并不是说我们知道在这里做什么是正确的，我们不是划定界限并说‘这就是路’……我们只是在穿越道路时努力修建道路。”
该研究在报告中进行了描述可在 OpenAI 网站上找到。
