當您開發一個工具並且它無效時，您有兩個選擇：要么嘗試改進它。要么將其從市場上移除。這就是他選擇的開放人工智慧憑藉其人工智慧檢測工具，“人工智慧分類器”，這讓教學界非常沮喪，他們依靠這個系統將對話機器人生成的副本與其他機器人分開。 ChatGPT 背後的新創公司於 7 月 20 日非常謹慎地在其部落格頁面上添加了一條註釋，宣布了此次撤回的消息。原因是什麼？其精度太低了。了解：它的無效性。
«自 2023 年 7 月 20 日起，AI 分類器因準確率較低而不再可用。我們正在努力整合回饋，目前正在研究更有效的文字（檢測）技術，我們致力於開發和部署允許用戶了解音訊或視覺內容是否由人工智慧產生的機制。»，OpenAI 寫道。因此，可以採用其他工具，但沒有就此主題給予任何指示。
對於英文文本：只有四分之一的情況被正確地偵測到
因此，「AI 分類器」只存在了六個月。而早在去年 1 月，也就是推出的月份，OpenAI 就已經發出了警告。它的檢測系統不是“不完全可靠」。該新創公司隨後解釋說，其工具可以清楚地區分人類編寫的文本和人工智慧生成的文本。但她也指出，根據對英文文本進行的一系列測試，她的工具缺乏精確度。 AI 分類器正確地將其識別為“可能是AI寫的» 26% 的文字由人工智慧撰寫——或者說只有四分之一。在幾乎十分之一的情況下，該工具將人類編輯編寫的文本歸類為人工智慧生成的文本，即我們所說的誤報。
自去年 11 月 ChatGPT 啟動以來，對提供此類系統的需求一直很強烈，特別是在教育和藝術領域。由於缺乏這樣的工具，ChatGPT 和其他生成式人工智慧工具在許多大學或藝術比賽中被禁止。但這不僅僅是作弊或保護藝術家的問題：這項技術還存在操縱輿論的風險，人工智慧可以用來製作深度贗品或比真人更大的照片，模糊了現實與虛構之間的界線。
「由人工智慧產生」的提及並不是強制性的
協會和眾多人士繼續就這一點發出警報，特別是考慮到下一次選舉。因為目前不僅沒有檢測工具。但提及“由人工智慧生成”，這將使我們能夠區分事物，但不是強制性的。在美國，某些美國總統候選人的支持者毫不猶豫地使用這種廉價的技術來表達他們的想法。幾週前，一個來自共和黨陣營的影片描述了喬拜登連任時的世界末日由人工智慧產生的，並不總是包含「由人工智慧生成」一詞。
事實上，即使是 ChatGPT 背後的公司也無法建立一個系統來檢測其自己的工俱生成的內容，這一事實並不令人放心。特別是因為目前該領域沒有具有約束力的立法。只有未來的歐洲人工智慧法規包含一項強制提及「人工智慧生成」的條款，但沒有具體說明這在技術上如何實現。而且似乎還沒有一種可靠的工具來區分人類的工作和人工智慧的工作。
但情況可能很快就會改變。根據一份新聞稿，在美國，包括 OpenAI、微軟、谷歌、Meta 和亞馬遜在內的七家該行業公司已（自願）承諾在人工智能生成的文本、音頻和視頻內容上設置水印。目標：“減少詐欺和欺騙的危險», 指定文本的作者。這個意向聲明是否會得到跟進？
來源 ： d'OpenAI 博客
