聊天GPT知道如何做許多積極的…和消極的事情。機器人開放人工智慧因此成為多項運動的關鍵虛假資訊以及伊朗、俄羅斯、中國和以色列公司精心策劃的宣傳。該技術用於在社交網路上建立貼文、翻譯文章、撰寫誤導性標題或設計程式來自動發送該內容。
ChatGPT,一種宣傳武器
OpenAI 詳細介紹了這些影響者活動如何利用 ChatGPT。例如,俄羅斯的「分身行動」(Operation Doppelganger) 使用該機器人以法語、德語和波蘭語產生反烏克蘭評論;他也翻譯和編輯了支持入侵烏克蘭的英文和法文文章。 ChatGPT 也被用來開發一個在 Telegram 上自動發佈的工具。
另一個例子是中國發起的 Spamouflage 活動:OpenAI 技術被用來調試程式碼、分析社交網路上的出版物以及進行線上監控。 ChatGPT 也被用來創建親政府的貼文。在伊朗方面,這些生成式人工智慧工具已被用來創建和翻譯有利於政權、反對以色列和美國的文章和頭條新聞。
最後,以色列依靠 ChatGPT 作為 Zeno Zeno 運動的一部分來製造虛構的人,負責在美國、加拿大和以色列本土發布反伊斯蘭訊息。因此,當局對無法控制的人工智慧能夠透過在社交網路上充斥虛假資訊來傾斜公眾輿論的擔憂並非幻覺。
里拉保護民主免於人工智慧濫用:科技巨頭的協議,展現良好的面貌
然而,你必須保持冷靜的頭腦。 OpenAI 首席研究員 Ben Nimmo 表示,這些影響力行動目前仍在繼續,但很難達到目標。他進一步保證,作為這些活動的一部分發布的政治評論很少得到普通人的讚和回應。
ChatGPT 創建的這些出版物的性質通常被視為中間的鼻子:語法令人遺憾,特定於ChatGPT 的某些元素尚未刪除(一篇文章甚至集成了機器人的消息,解釋說作為人工智能語言模型,它是在那裡“協助並提供所需的回饋»)。
儘管如此,ChatGPT 將繼續發展和改進。有一天,機器人產生的訊息將不再那麼容易被偵測到。 OpenAI 提出了多種解決方案:防止機器人產生回應的保障措施、與其他人工智慧平台的共同工作…儘管如此,這一切就足夠了嗎?
來源 : 開放人工智慧