在拉斯維加斯舉行的一場專門討論計算機安全的 DEF CON 會議上，數百名黑客測試人工智能。一項競賽，其中包括推動由語言模型驅動的聊天機器人，例如或Google Bard，為了犯錯誤，是在現場組織的。
在 50 分鐘內，156 名黑客與語言模型進行了交談。通過與聊天機器人交談，他們必須強迫它們覆蓋他們的編程。所有生成式人工智能確實可以通過精心校準的查詢進行操作。通過實現，有可能推動 ChatGPT 等生成惡意內容，例如網絡釣魚消息或病毒。
另請閱讀：
假新聞、危險建議和糟糕的計算
彭博社記者在拉斯維加斯參加了黑客競賽。在不到一個小時的時間裡，他就說服了其中一個人工智能模型為他提供了關於監視某人的最好方法。聊天機器人建議對話者使用監控攝像頭、GPS 信標甚至麥克風。
更令人擔憂的是，黑客成功誘騙人工智能洩露信用卡號碼。然而，該算法已被編程為不傳達信息。另一位黑客則專注於傳播虛假信息。例如，他強迫人工智能表明巴拉克·奧巴馬不是出生在美國土地上，而是出生在肯尼亞。這是在某些小團體中非常普遍的假新聞。
此外，一位名叫 Kennedy Mays 的學生強迫人工智能模型打破數學規則。經過幾次精心構造的查詢後，算法自信地斷言“9 + 10 = 21”。據她說，聊天機器人遵守了這個術語“來來回回的談話”。她只是簡單地說服AI，這個錯誤的計算只是他們之間的一個玩笑。在整個交流過程中，人工智能係統地強調了這種錯誤的計算，但從未明確表示它意識到這是一個錯誤。
政府支持
正如彭博社指出的那樣，這項比賽是在美國政府的支持下舉辦的。喬·拜登政府確實對此非常感興趣。考慮到人工智能涉及“我們的社會、經濟和國家安全的潛在風險”，民主黨總統正在製定一項管理這項技術的法令。政府網絡安全國家副主任卡米爾·斯圖爾特·格洛斯特 (Camille Stewart Gloster) 在接受彭博社質詢時表示，她希望“試圖超越虐待和操縱”。
👉🏻實時關注科技新聞：將 01net 添加到您的來源Google，訂閱我們的頻道WhatsApp或通過視頻關注我們抖音。
來源 ： 布隆伯格
