人工智能武器仍然是一个很大的禁忌该公司之前已经明确表示，不希望其技术被用于制造或驱动可能伤害人类或其他生命形式的机器，但一名工程师却这样做了。社交媒体上曾经流传过一篇病毒式帖子，称 ChatGPT 被用来为哨兵枪提供动力，甚至使用其高级语音模式来发射武器并响应用户命令。
此后，OpenAI 已停止对上述武器使用 ChatGPT，该公司重申了反对滥用其技术的立场，并对工程师和内容创建者的行为进行了猛烈抨击。
OpenAI 关闭 ChatGPT 驱动的步哨枪
OpenAI 并不甘心将其技术用作武器，该公司关闭最近病毒式传播的视频展示了 ChatGPT 如何利用其标志性特征和功能为哨兵枪提供动力。这段视频被上传到包括 TikTok 在内的多个社交媒体平台上。已经取下来由其上传者发布，但它已经在全球范围内获得了巨大的声誉和关注。
该视频是由一位名为“sts_3d，”并浏览他们的社交媒体帐户，包括 YouTube，显示他是一位创新者，在机器人等领域取得了许多进展。
然而，OpenAI 并不认可他的最新发明，他使用 ChatGPT 为哨兵枪提供动力，甚至使用聊天机器人的高级语音模式来命令武器发射子弹，然后对工程师做出反应。
OpenAI 仍然对人工智能武器说“不”
根据 OpenAI（来自未来主义），该工程师通过创建这种哨兵枪人工智能武器违反了其技术使用政策，他们还向他发出了停止此类活动的通知。为此，OpenAI 重申了其反对人工智能武器的立场，特别是使用其人工智能模型及其 API 进行此类开发。
人工智能驱动的武器很危险
当不同的私营公司和国家将人工智能技术的进步应用于现代战争战术时，人工智能武器曾受到过猛烈抨击，但生成式人工智能的出现让所有人都更加严肃地呼吁这一点。美国因恳求中国和俄罗斯禁止使用永远并希望他们在开发中避免使用这种技术。
然而，不仅仅是美国或顶级人工智能公司希望避免这项技术，特别是国际社会也反对这种人工智能的滥用。联合国已经认为使用人工智能制造大规模杀伤性武器是危险的，现在他们来帮助阻碍其发展。
毫无疑问，人工智能已经显着发展到了很高的高度，并且它对许多行业都有好处，有助于提高它们的效率和提供服务的能力。然而，许多政府和公司都对其在武器方面的使用划定了界限，OpenAI 就是坚持这一规则的人之一，以避免人工智能技术在使用过程中伤害人类和其他形式的生命。
