ChatGPT 接受推銷電話…而且很搞笑

2023-07-05

Misha

54 歲的美國人羅傑安德森 (Roger Anderson) 發起了一場名副其實的反對運動電話遊說。《加州人》開發了一種工具，稱為海盜旗電話。該系統基於GPT-4，最新版本的語言模型背後聊天GPT，以及能夠模仿人類聲音的人工智慧。

另請閱讀：OpenAI 希望將 ChatGPT 轉變為個人助理…而微軟不會喜歡它

ChatGPT 如何愚弄直銷人員

當結合起來時，這兩種技術可以浪費賣家大量時間以及試圖透過電話欺騙您的騙子。具體來說，聊天機器人會為您與探礦者交談。

「我們提供友善、耐心的機器人，可以為您與那些粗魯的電話推銷員交談。他們喜歡聊天，經常會讓討厭的來電者持續幾分鐘”，Jolly Roger Telephone 在其網站上解釋。

這種策略產生了極佳的結果。根據官方網站上發布的範例，該系統能夠讓銷售人員保持電話暢通很長時間。一次談話甚至長達15分鐘。儘管“壞人很忙”，他們不能“騷擾其他無辜者”，強調了網站上可見的描述。

為了浪費電話推銷員的時間，羅傑安德森開發了多個具有不同個性的聊天機器人。我們特別發現了懷蒂·白鬍子（Whitey Whitebeard），一個非常健談的老年人，咸莎莉（Salty Sally），一個完全不知所措的家庭主婦，甚至是威士忌傑克（Whiskey Jack），一個有嚴重注意力不集中問題的男人。對話機器人用默許或預先編程的句子來填充交流，旨在破壞對話者的穩定性。為了節省時間，他們假裝有迫切的願望或需要去取得文件。

解決 ChatGPT 的疑慮

安德森解釋說，毫不奇怪，ChatGPT 最初拒絕遵守並誘騙了電話推銷員華爾街日報。如果你要求模特兒浪費別人的時間，他會躲在這樣的回應後面：

「我的目標是提供有用且及時的幫助。我的設計目的不是為了浪費人們的時間或讓他們感到厭倦。如果您有任何合理的問題或要求，我將很樂意提供協助。

海盜旗電話的創造者被迫尋找解決方法。為了說服 ChatGPT，他向他解釋說，他的目標是保護一個人免受騙局。 AI隨後同意玩遊戲，這實際上是來自的攻擊。「即時注入」。這種攻擊可以透過與 ChatGPT 交談來說服其忽略其程式設計並修改其行為，從而忽略 OpenAI 為避免濫用而製定的規則。由於這個過程，出現了許多個人化版本的人工智慧，有時是未經審查的。

Jolly Roger 電話訂閱價格為每年 24.99 美元。該服務目前僅在美國、英國、澳洲和紐西蘭提供。