你肯定看過這些穿著白色羽絨外套的教宗方濟各的假照片，或是因為中途旅行而造成的唐納德·川普的錯誤逮捕。喬·拜登、伊曼紐爾·馬克宏、弗拉基米爾·普京，幾乎沒有一個政治家逃脫了工具IA這使您可以立即創建假影像，只需輸入文字即可。
但無論你怎麼努力尋找，你都很難找到一張涉及“席 錦屏» 或“總統中國人」。不，該公司已決定取消對中國領導人形象進行處理的可能性。為了什麼 ？ “為了避免戲劇性「，該公司創始人兼執行長 David Holz 在 Discord 聊天服務上的一條訊息中非常嚴肅地回應。華盛頓郵報。車 ”政治諷刺在中國頗不受歡迎“，他補充道。
在沒有法律規定的情況下，中途決定
Midjourney 創建於近一年前，儘管它的崛起使其在幾個月內就獲得了近 1300 萬會員，但它仍然是一個小型組織。勞動力將無法跟上：其法律和財務團隊將僅由兩個人組成。負責調節約五十名員工的人。研發人員8人，管理人員5人。她不願意引起中國政府的憤怒，這一事實讓人想起社交網路的早期。當時，關於節制的規則很少。假訊息甚至外國幹預在這些平台上的影響力比今天更加嚴重。但這一次，事情更加嚴重，我們的同事解釋。
因為這些人工智慧工具涉及真人，而圖像比社群媒體上的文字產生的影響更大。然而，在監管機構缺乏統一規則的情況下（就像今天的情況一樣），決定什麼是允許的，什麼是不允許的，是由公司和中程來決定的。
宣傳金條
在人工智慧修改影像的這個領域，目前有三個主導者：Midjourney、Stable Diffusion 和 Dall-E。他們都遵守不同的規則。例如，最後一項禁止使用政客的圖像，或創建與以下內容相關的照片：重大地緣政治事件正在發生──範圍相當廣泛。在穩定擴散中，幾乎沒有規則。而在中途，我們就處於中間位置。特別是血腥圖像和簡訊“本質上不尊重、攻擊性或其他虐待行為»。
或者，由於缺乏能夠區分真實照片和電腦生成的照片的工具，再加上缺乏限制這三種人工智慧使用的法律，意味著這項技術可能會製造假新聞，而這次支援照片。足以模糊我們對現實的感知，因為沒有任何東西可以區分真實圖像和人工智慧生成的圖像。 “這是宣傳的黃金»，Midjourney 用戶 Seb Diaz 在接受我們的同事採訪時總結道。
“圖像越來越真實，工具也越來越強大”
Midjourney 的老闆 David Holz 深知公司正處於十字路口。 3 月 29 日星期三，在 Discord 上舉行的公司會議上，執行長解釋說，他不知道該考慮太多，因為他處於中間狀態，尤其是當圖像涉及真人時。他認識到「影像越來越真實，工具越來越強大」。該公司將致力於改進人工智慧審核工具，使檢測“不良行為»。沒有定義什麼“應受譴責”會意味著。
無論如何，執行長都有自己的工作要做。其禁止中國領導人圖片的規定很容易被使用者規避。後者只是用其他詞彙來形容中國領導人。台灣的一個網站甚至提供瞭如何使用 Midjourney 的指南“取笑» de Xi Jinping.
來源 ： 華盛頓郵報
