太快了,对人类太危险了:至少这是一封出乎意料的信,至少可以说,3月29日,星期三,由包括科技世界领导者在内的成千上万的人签署人工智能(ia)为埃隆·马斯克(Elon Musk)和行业专家。所有人都要求六个月暂停,这是人类的有益的休息,敦促所有世界研究中心立即停止他们在这些高级系统上的工作。 “”我们要求所有人工智能实验室立即中断,在至少六个月的时间内,人工智能系统的形成比GPT-4更强大“,他们在序言中写道。
«只有一旦我们确定它们的效果将是积极的,才应开发强大的AI系统,并且它们的风险将是可管理的“他们在这封信中补充说,由非营利组织生命研究所未来出版。 3月29日,星期三,下午开始时,有1123人签署了它,包括Tech和AI的数字,例如Tesla的老板和Twitter Elon Musk,Apple Steve Wozniak的联合创始人,Apple Steve Wozniak的联合创始人,DeepMind的研究人员,Alphabet的Google House,甚至是Google的Mother House,甚至像Yoshua Bengio Yoshua Bengio,STUARTRUSSELL RUSSELL RUSSEL RUSSER RUSSE,甚至是Yia Figure加里·马库斯(Gary Marcus)。这些人要求在恢复任何发展之前,由独立专家制定,实施和验证安全,道德和透明协议。
“我们应该自动化所有工作,包括那些有益的工作吗?” »»»
在援引的风险中,这封信以警报的语调强调了“失去对我们文明的控制»。 CES«上几个月,IA实验室()已经锁定在一场不受控制的竞赛中,以开发和部署更强大的数字思维,而且没有人(甚至没有他们的创造者)可以理解,预测或控制可靠性“写作者。他们邀请所有在主题上工作的研究小组与监管机构携手合作。
这封信还要注意AI对我们公司的具体后果,想知道:”我们是否必须让机器淹没我们的宣传并撒谎信息渠道?我们应该自动化所有工作,包括那些有奖励的工作»,就像那些给我们成就感的人一样?几周前,英国作家的受害者苏西·阿雷格尔(Susie Alegre)问,足以回应一个简单的问题。为什么不仅使用AI来代替我们不喜欢做的事情?»»
信之后会效果吗?
«这封信不是完美的,但头脑是正确的:我们必须放慢脚步,直到我们更好地理解后果(来自AI),这封信的签字人加里·马库斯(Gary Marcus)教授说,我们的同事们路透社,3月29日星期三。这封信之后会效果吗?目前,公司是否会在这六个月的停靠期间冒着超越的风险?在任何情况下,这封信都要求此休息公共和可验证»。如果”这样的休息不能迅速到位,政府必须干预并建立暂停»,是写的。
另请阅读: AI被怀疑是自杀的人
该信件目前徒劳地添加到许多其他呼叫中,以衡量这些系统,对这些系统的反射和控制。本周三,欧盟警察国际刑警组织警告说,可能会滥用Chatgpt尝试网络钓鱼,虚假信息和网络犯罪。所有这些呼吁最终都可能削弱在AI部门工作的大多数公司的当前地位 - 由边缘像立即发货并稍后修复“那个人可以翻译”我们现在开始,我们将修理(如有必要,请稍后)»。问题:有了AI,这个“维修可能是不可能的。
来源 : 生命研究所未来的公开信