如果你把自己放在錯誤獵人的立場怎麼辦？聊天GPT？的公告開放人工智慧是當前最受歡迎的對話聊天工具背後的美國公司，您可能會感興趣。 “為了創造安全、可靠、值得信賴的技術和服務，我們需要您»，該公司在 4 月 11 日星期二的部落格文章中寫道。該公司剛剛啟動了一項計劃，旨在向在其係統中發現錯誤的人付費。人工智慧。 CE «錯誤賞金計劃» 承諾為每次發現“漏洞、錯誤或安全漏洞» 根據所辨識錯誤的大小和重要性，給予或多或少重要的獎勵。您可以獲得從 200 美元（低嚴重性發現）到 20,000 美元（特殊發現）的獎勵。 OpenAI 表示，它與 Bugcrowd 合作建立了這個項目，Bugcrowd 是一個連接網路安全研究人員和企業的眾包安全平台。
不要開始列出 ChatGPT 幻覺。 OpenAI 明確指出“與提示（命令）內容和模型回答相關的問題嚴格超出範圍，不會獲得獎勵」。新提交的內容將在兩小時內被拒絕或接受。本週三（4 月 12 日），14 個漏洞已獲得獎勵，每個接受的提交平均獲得 1,287.50 美元的獎勵。上個月，OpenAI 總裁兼聯合創始人 Greg Brockman 已經在推文中暗示將推出此類專案。
民主化的紅隊是我們部署這些模型的原因之一。預計隨著時間的推移，風險將大幅增加，擁有能夠抵禦巨大對抗壓力的模型至關重要。也考慮啟動賞金計畫/紅隊網路！https://t.co/9QfmXQi9iM
— 格雷格·布羅克曼 (@gdb)2023 年 3 月 16 日
科技公司設立這種類型的漏洞搜尋機制並不少見，所有駭客和獨立研究人員都可以參與其中，並提供獎勵。這些計劃使科技公司能夠不斷提高其服務的安全性，並發現內部網路安全團隊以前未知的漏洞。
對錯誤的回應以及對此類人工智慧安全性的擔憂？
該消息是在對話代理出現故障幾週後發布的。 3月底，我們得知ChatGPT洩露了某些用戶的敏感數據，例如他們的姓名、地址和信用卡號的最後一位數字。 OpenAI 在一份新聞稿中確認了故障的存在，同時最大限度地減少了異常的後果。這可能是由於伺服器更換而導致 Redis 開源庫故障的結果。此資料庫管理系統用於快取用戶資料。
這項措施也是回應 ChatGPT 和此類人工智慧工具所引起的普遍擔憂的嘗試的一部分。美國總統拜登 4 月 4 日星期二回顧說，人工智慧製造商必須“在向公眾發布之前確保其產品是安全的”，並且人工智慧可能是危險的。這華盛頓郵報4 月 8 日也表明，開發人工智慧工具的公司已經開始真正的魅力行動，針對該國的主要政治人物。他們希望傳達的訊息包括：他們努力以負責任和道德的方式開發人工智慧……但同時也是安全和透明的。駭客和研究人員應該已經在努力發現對話代理中的缺陷......並且提交的內容應該成倍增加。
來源 ： OpenAI 部落格文章
