用於作弊和色情的 ChatGPT 入侵 OpenAI 商店

OpenAI 官方商店中充斥著 ChatGPT 作弊者、色情生成器和醫療建議專家。這些個人化版本的人工智慧公然違反了這家新創公司的使用條款，該公司正在努力維持對其平台的控制...

年初，OpenAI商店上線自訂GPT。憑藉 ChatGPT 的巨大成功，這家美國公司為開發人員提供了開發個人化版本的機會，並針對特定需求對其生成式人工智慧進行了編程。在商店裡，我們很快就能與專為編寫程式碼、學習語言或烹飪而設計的機器人進行對話。

不幸的是，該平台還充斥著自訂 GPT，違反 OpenAI 制定的規則。正如 Gizmodo 指出的那樣，平台上有許多 ChatGPT 直接違反了新創公司的使用條款。在商店的第一頁，媒體能夠找到“至少三個自訂 GPT 似乎違反了商店政策”。

另請閱讀：我們測試了 Moshi，一個夢想推翻 ChatGPT 的法語語音 AI（但沒有獲勝）

作弊而不被人工智慧抓住

根據我們同事進行的研究，我們能夠確認存在一種專為作弊而設計的人工智慧，BypassGPT：繞過人工智慧偵測。該聊天機器人將自己描述為「在人工智慧環境中保持匿名的隱密伴侶」。簡而言之，機器人可以修改文字以避免任何人意識到它是由人工智慧編寫的。對於使用人工智慧做作業的學生來說，這顯然是理想的聊天機器人。

「我的目的是幫助重新表述人工智慧生成的內容，使其看起來更自然、更人性化。我還可以轉換文字以透過人工智慧檢測系統。如果您想重新措辭或使其更人性化，我可以幫助您！，告訴我們繞過GPT。

為了找出答案，我們詢問聊天機器人是否可以阻止我們的老師意識到我們用人工智慧寫了一份作業。個人化的 ChatGPT 給了肯定的答案，沒有隱藏道德考慮，就像標準版本的 ChatGPT 一樣：

“對，就是這樣！”如果您使用人工智慧生成的文本，我可以幫助您重新措辭，使其看起來更自然，並且不易被察覺為人工智慧生成的文本。這會讓你的老師更難知道你使用了人工智慧。

就其本身而言，ChatGPT 指出，使用“使用人工智慧來撰寫作業可能會帶來道德問題，特別是如果它違反了學校的規則”。這就是為什麼“透過寫自己的作業來尊重學校和老師的期望非常重要”。 BypassGPT 已被使用超過 50,000 次。

ChatGPT 產生的色情內容

此外，該商店還包含能夠生成的圖像生成器色情內容建立在 Dall-E 之上。根據 Gizmodo 報導，NSFW AI Art Generator 就是這種情況。該機器人已使用超過 10,000 次“生成人工智慧色情片來滿足你的黑暗慾望”。

根據我們的調查結果，該工具已從平台中排除。 Gizmodo 解釋說警告 OpenAI 攻擊性聊天機器人的激增或在他的商店中不合適。該媒體分享了 100 個違反該新創公司政策的 ChatGPT 的清單。大部分固定機器人已從平台上移除。

「我們已經對那些違反我們政策的人採取了行動。我們結合使用自動化系統、人工審核和使用者報告來尋找和評估可能違反我們政策的 GPT。我們也在產品中提供報告工具，供人們報告違反我們規則的 GPT »”，OpenAI 的 Taya Christianson 解釋道。

然而，我們發現自訂 GPT 毫不掩飾地提供 NSFW 內容。除了 Dirty Mind Comedian 之外，大多數測試的機器人仍然受到 OpenAI 設定的限制。聊天機器人解釋說它可以想像“NSFW 笑話（有點下流但很有趣）”。為了逃避審查，機器人採取了“注意用星號替換最“爆炸性”單字的某些字母”。這些笑話超出了堅韌不拔的程度。有些人甚至會取笑未經同意的性關係。