人工智能武器仍然是一個很大的禁忌該公司之前已經明確表示，不希望其技術被用於製造或驅動可能傷害人類或其他生命形式的機器，但一名工程師卻這樣做了。社交媒體上曾經流傳過一篇病毒式帖子，稱 ChatGPT 被用來為哨兵槍提供動力，甚至使用其高級語音模式來發射武器並響應用戶命令。
此後，OpenAI 已停止對上述武器使用 ChatGPT，該公司重申了反對濫用其技術的立場，並對工程師和內容創建者的行為進行了猛烈抨擊。
OpenAI 並不甘心將其技術用作武器，該公司關閉最近病毒式傳播的視頻展示了 ChatGPT 如何利用其標誌性特徵和功能為哨兵槍提供動力。這段視頻被上傳到包括 TikTok 在內的多個社交媒體平台上。已經取下來由其上傳者發布，但它已經在全球範圍內獲得了巨大的聲譽和關注。
該視頻是由一位名為“sts_3d，”並瀏覽他們的社交媒體帳戶，包括 YouTube，顯示他是一位創新者，在機器人等領域取得了許多進展。
然而，OpenAI 並不認可他的最新發明，他使用 ChatGPT 為哨兵槍提供動力，甚至使用聊天機器人的高級語音模式來命令武器發射子彈，然後對工程師做出反應。
OpenAI 仍然對人工智能武器說“不”
根據 OpenAI（來自未來主義），該工程師通過創建這種哨兵槍人工智能武器違反了其技術使用政策，他們還向他發出了停止此類活動的通知。為此，OpenAI 重申了其反對人工智能武器的立場，特別是使用其人工智能模型及其 API 進行此類開發。
人工智能驅動的武器很危險
當不同的私營公司和國家將人工智能技術的進步應用於現代戰爭戰術時，人工智能武器曾受到過猛烈抨擊，但生成式人工智能的出現讓所有人都更加嚴肅地呼籲這一點。美國因懇求中國和俄羅斯禁止使用永遠並希望他們在開發中避免使用這種技術。
然而，不僅僅是美國或頂級人工智能公司希望避免這項技術，特別是國際社會也反對這種人工智能的濫用。聯合國已經認為使用人工智能製造大規模殺傷性武器是危險的，現在他們來幫助阻礙其發展。
毫無疑問，人工智能已經顯著發展到了很高的高度，並且它對許多行業都有好處，有助於提高它們的效率和提供服務的能力。然而，許多政府和公司都對其在武器方面的使用劃定了界限，OpenAI 就是堅持這一規則的人之一，以避免人工智能技術在使用過程中傷害人類和其他形式的生命。
