54 歲的美國人羅傑安德森 (Roger Anderson) 發起了一場名副其實的反對運動電話遊說。 《加州人》開發了一種工具,稱為海盜旗電話。該系統基於GPT-4,最新版本的語言模型背後聊天GPT,以及能夠模仿人類聲音的人工智慧。
另請閱讀:OpenAI 希望將 ChatGPT 轉變為個人助理…而微軟不會喜歡它
ChatGPT 如何愚弄直銷人員
當結合起來時,這兩種技術可以浪費賣家大量時間以及試圖透過電話欺騙您的騙子。具體來說,聊天機器人會為您與探礦者交談。
「我們提供友善、耐心的機器人,可以為您與那些粗魯的電話推銷員交談。他們喜歡聊天,經常會讓討厭的來電者持續幾分鐘”,Jolly Roger Telephone 在其網站上解釋。
這種策略產生了極佳的結果。根據官方網站上發布的範例,該系統能夠讓銷售人員保持電話暢通很長時間。一次談話甚至長達15分鐘。儘管“壞人很忙”,他們不能“騷擾其他無辜者”,強調了網站上可見的描述。
為了浪費電話推銷員的時間,羅傑安德森開發了多個具有不同個性的聊天機器人。我們特別發現了懷蒂·白鬍子(Whitey Whitebeard),一個非常健談的老年人,咸莎莉(Salty Sally),一個完全不知所措的家庭主婦,甚至是威士忌傑克(Whiskey Jack),一個有嚴重注意力不集中問題的男人。對話機器人用默許或預先編程的句子來填充交流,旨在破壞對話者的穩定性。為了節省時間,他們假裝有迫切的願望或需要去取得文件。
解決 ChatGPT 的疑慮
安德森解釋說,毫不奇怪,ChatGPT 最初拒絕遵守並誘騙了電話推銷員華爾街日報。如果你要求模特兒浪費別人的時間,他會躲在這樣的回應後面:
「我的目標是提供有用且及時的幫助。我的設計目的不是為了浪費人們的時間或讓他們感到厭倦。如果您有任何合理的問題或要求,我將很樂意提供協助。
海盜旗電話的創造者被迫尋找解決方法。為了說服 ChatGPT,他向他解釋說,他的目標是保護一個人免受騙局。 AI隨後同意玩遊戲,這實際上是來自的攻擊。「即時注入」。這種攻擊可以透過與 ChatGPT 交談來說服其忽略其程式設計並修改其行為,從而忽略 OpenAI 為避免濫用而製定的規則。由於這個過程,出現了許多個人化版本的人工智慧,有時是未經審查的。
Jolly Roger 電話訂閱價格為每年 24.99 美元。該服務目前僅在美國、英國、澳洲和紐西蘭提供。
🔴為了不錯過01net的任何新聞,請關注我們谷歌新聞等WhatsApp。
Opera One - AI 驅動的網頁瀏覽器
作者:歌劇
來源 : 華爾街日報