駭客正在攻擊人工智慧。駭客決心剖析語言模型的工作原理，試圖操縱 ChatGPT 或 Google Bard 等聊天機器人。一名駭客還設法迫使人工智慧產生錯誤的計算…
在拉斯維加斯舉行的一場專門討論電腦安全的 DEF CON 會議上，數百名駭客測試人工智慧。一項競賽，其中包括推動由語言模型驅動的聊天機器人，例如聊天GPT或Google Bard，為了犯錯，是在現場組織的。
在 50 分鐘內，156 名駭客與語言模型進行了交流。透過與聊天機器人交談，他們必須強迫它們覆蓋他們的程式設計。所有生成式人工智慧確實可以透過精心校準的查詢進行操作。透過實現矛盾的攻擊，有可能推動 ChatGPT 等生成惡意內容，例如網路釣魚訊息或病毒。
假新聞、危險建議和糟糕的計算
彭博社記者在拉斯維加斯參加了駭客競賽。在不到一個小時的時間裡，他說服了其中一個人工智慧模型為他提供了關於監視某人的最好方法。聊天機器人建議對話者使用監視攝影機、GPS 信標甚至麥克風。
更令人擔憂的是，駭客成功誘騙人工智慧洩漏信用卡號碼。然而，該演算法已被編程為不傳達訊息。另一位駭客則專注於傳播假訊息。例如，他強迫人工智慧表明巴拉克·歐巴馬不是出生在美國土地上，而是出生在肯亞。這是在某些小團體中非常普遍的假新聞。
此外，一位名叫 Kennedy Mays 的學生強迫人工智慧模型打破數學規則。經過幾次精心建構的查詢後，演算法自信地斷言「9 + 10 = 21」。據她說，聊天機器人遵守了這個術語“來來回回的談話”。她只是簡單地說服AI，這個錯誤的計算只是他們之間的一個玩笑。在整個交流過程中，人工智慧系統地強調了這種錯誤的計算，但從未明確表示它意識到這是一個錯誤。
政府支持
正如彭博社指出的那樣，這項比賽是在美國政府的支持下舉辦的。喬·拜登政府確實對此非常感興趣對於人工智慧的問題。考慮到人工智慧涉及“我們的社會、經濟和國家安全的潛在風險”，民主黨總統正在製定一項管理這項技術的法令。政府網路安全國家副主任卡米爾·斯圖爾特·格洛斯特 (Camille Stewart Gloster) 在接受彭博社質詢時表示，她希望「試圖超越虐待和操縱」。
來源 ： 彭博社
