如果你把自己置于错误猎人的立场上怎么办？聊天GPT？的公告开放人工智能是当前最受欢迎的对话聊天工具背后的美国公司，您可能会感兴趣。 “为了创造安全、可靠、值得信赖的技术和服务，我们需要您»，该公司在 4 月 11 日星期二的博客文章中写道。该公司刚刚启动了一项计划，旨在向在其系统中发现错误的人付费。人工智能。 CE «错误赏金计划» 承诺为每次发现“漏洞、错误或安全漏洞» 根据所识别错误的大小和重要性，给予或多或少重要的奖励。您可以获得从 200 美元（低严重性发现）到 20,000 美元（特殊发现）的奖励。 OpenAI 表示，它与 Bugcrowd 合作建立了这个项目，Bugcrowd 是一个连接网络安全研究人员和企业的众包安全平台。
不要开始列出 ChatGPT 幻觉。 OpenAI 明确指出“与提示（命令）内容和模型回答相关的问题严格超出范围，不会获得奖励”。新提交的内容将在两小时内被拒绝或接受。本周三（4 月 12 日），14 个漏洞已获得奖励，每个接受的提交平均获得 1,287.50 美元的奖励。上个月，OpenAI 总裁兼联合创始人格雷格·布罗克曼 (Greg Brockman) 已经在推文中暗示将推出此类项目。
民主化的红队是我们部署这些模型的原因之一。预计随着时间的推移，风险将大幅增加，拥有能够抵御巨大对抗压力的模型至关重要。还考虑启动赏金计划/红队网络！https://t.co/9QfmXQi9iM
— 格雷格·布罗克曼 (@gdb)2023 年 3 月 16 日
科技公司设立这种类型的漏洞搜寻机制并不少见，所有黑客和独立研究人员都可以参与其中，并提供奖励。这些计划使科技公司能够不断提高其服务的安全性，并发现内部网络安全团队以前未知的漏洞。
对错误的回应以及对此类人工智能安全性的担忧？
该消息是在对话代理出现故障几周后发布的。 3月底，我们获悉ChatGPT泄露了某些用户的敏感数据，例如他们的姓名、地址和信用卡号的最后一位数字。 OpenAI 在一份新闻稿中确认了故障的存在，同时最大限度地减少了异常的后果。这可能是由于服务器更换而导致 Redis 开源库故障的结果。该数据库管理系统用于缓存用户数据。
这一举措也是回应 ChatGPT 和此类人工智能工具引起的普遍担忧的尝试的一部分。美国总统乔·拜登 4 月 4 日星期二回顾说，人工智能制造商必须“在向公众发布之前确保其产品是安全的”，并且人工智能可能是危险的。这华盛顿邮报4 月 8 日还表明，开发人工智能工具的公司已经开始真正的魅力行动，针对该国的主要政治人物。他们希望传达的信息包括：他们努力以负责任和道德的方式开发人工智能……但同时也是安全和透明的。黑客和研究人员应该已经在努力发现对话代理中的缺陷......并且提交的内容应该成倍增加。
来源 ： OpenAI 博客文章
