人工智慧武器仍然是一個很大的禁忌該公司之前已經明確表示，不希望其技術被用於製造或驅動可能傷害人類或其他生命形式的機器，但一名工程師卻這樣做了。社交媒體上曾經流傳過一篇病毒式帖子，稱 ChatGPT 被用來為哨兵槍提供動力，甚至使用其高級語音模式來發射武器並響應用戶命令。
此後，OpenAI 已停止對上述武器使用 ChatGPT，該公司重申了反對濫用其技術的立場，並對工程師和內容創作者的行為進行了猛烈抨擊。
OpenAI 關閉 ChatGPT 驅動的步哨槍
OpenAI 並不甘心將其技術用作武器，該公司關閉最近病毒式傳播的影片展示了 ChatGPT 如何利用其標誌性特徵和功能為哨兵槍提供動力。這段影片被上傳到包括 TikTok 在內的多個社群媒體平台。已經取下來由其上傳者發布，但它已經在全球範圍內獲得了巨大的聲譽和關注。
該影片是由一位名為“sts_3d，」並瀏覽他們的社交媒體帳戶，包括 YouTube，顯示他是一位創新者，在機器人等領域取得了許多進展。
然而，OpenAI 並不認可他的最新發明，他使用 ChatGPT 為哨兵槍提供動力，甚至使用聊天機器人的高級語音模式來命令武器發射子彈，然後對工程師做出反應。
OpenAI 仍然對人工智慧武器說“不”
根據 OpenAI（來自未來主義），該工程師透過創建這種哨兵槍人工智慧武器違反了其技術使用政策，他們也向他發出了停止此類活動的通知。為此，OpenAI 重申了其反對人工智慧武器的立場，特別是使用其人工智慧模型及其 API 進行此類開發。
人工智慧驅動的武器很危險
當不同的私人公司和國家將人工智慧技術的進步應用於現代戰爭戰術時，人工智慧武器曾經受到猛烈抨擊，但生成式人工智慧的出現讓所有人都更加嚴肅地呼籲這一點。美國因懇求中國和俄羅斯禁止使用永遠並希望他們在開發中避免使用這種技術。
然而，不僅是美國或頂尖人工智慧公司希望避免這項技術，特別是國際社會也反對這種人工智慧的濫用。聯合國已經認為使用人工智慧製造大規模殺傷性武器是危險的，現在他們來幫助阻礙其發展。
毫無疑問，人工智慧已經顯著發展到了很高的高度，並且它對許多行業都有好處，有助於提高它們的效率和提供服務的能力。然而，許多政府和公司都對其在武器方面的使用劃定了界限，OpenAI 是堅持這項規則的人之一，以避免人工智慧技術在使用過程中傷害人類和其他形式的生命。
