微軟的首席工程師Shane Jones，據說聲稱該公司的法律部門要求他刪除LinkedIn帖子，該帖子向公眾提供了Openai的Dall-E 3的安全差距，該距離允許用戶創建明確和暴力的圖像。
現在，瓊斯已經寫了信華盛頓州檢察長鮑勃·弗格森（D），美國參議員帕蒂·默里（D）和瑪麗亞·坎特韋爾（D）以及華盛頓第9區的代表亞當·史密斯（D），以再次通知公眾Dall-E 3的安全問題。
瓊斯聲稱，他在去年12月初發現了安全差距，他很快向微軟主管報告了安全差距。據報導，主管將其直接提交給Openai的批准。
微軟首席執行官薩蒂亞·納德拉（Satya Nadella）表達了他對泰勒·斯威夫特（Taylor Swift）以性明確的AI生成圖像的出現的關注。
2023年12月14日，凌晨，瓊斯隨後試圖通過公開向Openai的非營利董事會發布一封信，在LinkedIn上公開發布一封信，要求他們停止DALL的分佈。
微軟要求他刪除自己的職位，在瓊斯向他的領導團隊透露這封信後不久，他的經理與他聯繫，並告知他微軟法律部門已要求刪除該職位。瓊斯幾乎沒有遇到任何解釋，但立即刪除了該職位。
瓊斯隨後被告知，微軟的法律部門將為下命令提供詳細的解釋，並在適當的時候發送電子郵件。瓊斯合作，但他聲稱微軟的法律人員從未對更詳細的回應發送。據稱，隨後從公司法律部門獲得其他信息的努力被忽略了。
微軟的響應
作為回應，微軟據說指出它致力於解決員工的關注。它已經建立了內部穩固的報告機制，以適當地研究並解決任何問題，並在將瓊斯提交公眾之前驗證和測試瓊斯的疑慮。
該公司聲稱已經調查了員工的指控。它證實了其AI驅動的圖片生成系統都沒有使用瓊斯披露的方法來超越安全過濾器。該業務堅持認為，它重視員工的反饋，並與瓊斯聯繫以解決他可能遇到的任何未解決的問題。
Openai的緩解措施
OpenAI代表在報告的電子郵件中反映了Microsoft的聲明，AI巨頭表示，在12月1日收到Microsoft員工的報告後，他們立即調查了它，並驗證了他透露的方法沒有規避安全措施。 Openai然後重申，他們的第一個目標是安全，並且他們從多個角度攻擊了問題。
該公司聲稱，它創建了強大的圖片分類器，以防止模型產生破壞性的圖像，並從其培訓數據中排除了最明確的內容，包括圖形性和暴力內容，這些內容進入了基礎dall-e 3模型。
目前，Openai的Dall-E 3是陳述拒絕提示，要求由域專家驗證有害，暴力圖像，他們在風險領域中強調模型，例如創建公眾人物和與視覺過度或不足相關的有害偏見。據說也在進行宣傳和錯誤信息方面的緩解工作。
