เหตุใด Midjourney จึงสั่งห้ามสร้างภาพของสี จิ้นผิง

คุณเคยเห็นภาพปลอมของสมเด็จพระสันตะปาปาฟรานซิสในชุดดาวน์แจ็กเก็ตสีขาวหรือการจับกุมโดนัลด์ ทรัมป์อันเป็นเท็จซึ่งเกิดจากการ Midjourney Joe Biden, Emmanuel Macron, Vladimir Putin แทบไม่มีนักการเมืองคนใดรอดพ้นจากเครื่องมือของไอโอวาซึ่งทำให้คุณสามารถสร้างได้ทันทีภาพปลอมเพียงพิมพ์ข้อความ

แต่ไม่ว่าจะมองหนักแค่ไหนก็แทบจะไม่พบรูปถ่ายที่เกี่ยวข้องกับ”สี จินผิง» หรือ “ประธานชาวจีน- ไม่ บริษัทได้ตัดสินใจที่จะลบความเป็นไปได้ในการทำงานกับภาพลักษณ์ของผู้นำจีน เพื่ออะไร? -เพื่อหลีกเลี่ยงดราม่า“ David Holz ผู้ก่อตั้งและซีอีโอของบริษัท ตอบกลับอย่างจริงจังในข้อความบนบริการแชท Discord ที่อ้างถึงโดยวอชิงตันโพสต์- รถ "การเสียดสีทางการเมืองในประเทศจีนค่อนข้างขมวดคิ้ว“ เขากล่าวเสริม

ในกรณีที่ไม่มีกฎหมาย Midjourney จะเป็นผู้ตัดสินใจ

Midjourney ซึ่งสร้างขึ้นเมื่อเกือบหนึ่งปีที่แล้ว ยังคงเป็นโครงสร้างขนาดเล็ก แม้ว่าจะมีการเติบโตเพิ่มขึ้น ซึ่งภายในไม่กี่เดือนก็ทำให้มีสมาชิกได้เกือบ 13 ล้านคน ทีมงานจะตามไม่ทัน: ทีมกฎหมายและการเงินจะประกอบด้วยคนเพียงสองคนเท่านั้น ผู้ที่รับผิดชอบดูแลพนักงานประมาณห้าสิบคน ฝ่ายวิจัยและพัฒนามีแปดคน และฝ่ายบริหารห้าคน และความจริงที่ว่าเธอไม่ต้องการดึงดูดความเดือดดาลของรัฐบาลจีนนั้นก็ชวนให้นึกถึงวันแรก ๆ ของโซเชียลเน็ตเวิร์ก ในเวลานั้น มีกฎเกณฑ์น้อยมากเกี่ยวกับการกลั่นกรอง การบิดเบือนข้อมูลและแม้แต่การแทรกแซงจากต่างประเทศยังครอบงำบนแพลตฟอร์มมากกว่าในปัจจุบัน แต่คราวนี้เรื่องมันร้ายแรงกว่านี้อีก อธิบายให้เพื่อนร่วมงานของเราฟัง

เนื่องจากเครื่องมือ AI เหล่านี้เกี่ยวข้องกับคนจริง และรูปภาพสามารถมีผลกระทบมากกว่าคำพูดบนโซเชียลมีเดีย อย่างไรก็ตาม ในกรณีที่ไม่มีกฎเกณฑ์เดียวกันที่กำหนดโดยหน่วยงานกำกับดูแล เช่นในกรณีปัจจุบัน บริษัทต่างๆ จึงต้องเป็นผู้ตัดสินว่าสิ่งใดได้รับอนุญาตหรือไม่

ทองแท่งเพื่อการโฆษณาชวนเชื่อ

ในส่วนของภาพที่ดัดแปลงโดย AI ปัจจุบันมีผู้เล่นที่โดดเด่นสามคน ได้แก่ Midjourney, Stable Diffusion และ Dall-E และพวกเขาทั้งหมดก็ปฏิบัติตามกฎเกณฑ์ที่แตกต่างกัน เช่น สุดท้ายห้ามใช้ภาพของนักการเมืองหรือการสร้างภาพที่เชื่อมโยงกับเหตุการณ์ทางภูมิรัฐศาสตร์สำคัญๆ ที่กำลังเกิดขึ้น ซึ่งค่อนข้างกว้าง ที่ Stable Diffusion มีกฎอยู่ไม่กี่ข้อ และที่ Midjourney เราก็อยู่ตรงกลาง โดยเฉพาะภาพและข้อความนองเลือดที่เป็น “เป็นการไม่เคารพ ก้าวร้าว หรือดูหมิ่นโดยเนื้อแท้-

หรือ,การไม่มีเครื่องมือที่จะทำให้สามารถแยกภาพถ่ายจริงออกจากภาพถ่ายที่สร้างด้วยคอมพิวเตอร์ ประกอบกับการไม่มีกฎหมายที่จำกัดการใช้ AI ทั้งสามนี้ หมายความว่าเทคโนโลยีนี้สามารถสร้างข่าวปลอมได้ โดยในครั้งนี้สนับสนุน ภาพถ่าย เพียงพอที่จะทำให้การรับรู้ความเป็นจริงของเราพร่ามัว เนื่องจากไม่มีสิ่งใดที่จะแยกแยะภาพจริงจากภาพที่สร้างโดย AI ได้ -เป็นทองสำหรับการโฆษณาชวนเชื่อ» สรุป Seb Diaz ผู้ใช้ Midjourney ซึ่งสัมภาษณ์โดยเพื่อนร่วมงานของเรา

อ่านเพิ่มเติม: เกราะป้องกันภาพที่ผลิตโดย AI มีอยู่จริง และเราต้องกวัดแกว่งมันให้เร็วที่สุด

“รูปภาพมีความสมจริงมากขึ้นเรื่อยๆ และเครื่องมือก็มีประสิทธิภาพมากขึ้นเรื่อยๆ”

และ David Holz หัวหน้า Midjourney ตระหนักดีว่าบริษัทอยู่ตรงทางแยก ในระหว่างเซสชั่นของบริษัทบน Discord เมื่อวันพุธที่ 29 มีนาคม CEO อธิบายว่าเขาไม่รู้ว่าควรคิดอย่างไรมากเกินไปเกี่ยวกับเรื่องนี้ โดยเฉพาะอย่างยิ่งเมื่อรูปภาพเกี่ยวข้องกับคนจริงๆ เขารับรู้ว่า “ภาพมีความสมจริงมากขึ้นเรื่อยๆ และเครื่องมือก็มีประสิทธิภาพมากขึ้นเรื่อยๆ- บริษัทก็จะทำงานเพื่อการปรับปรุงเครื่องมือการกลั่นกรอง AI ที่จะทำให้สามารถตรวจจับได้”พฤติกรรมที่ไม่ดี-โดยไม่ได้กำหนดว่าอะไร“น่าตำหนิ”จะหมายถึง.

ไม่ว่าในกรณีใดก็ตาม CEO จะต้องตัดงานของเขาออกไป กฎที่ควรแบนรูปภาพของผู้นำจีนนั้นถูกผู้ใช้หลีกเลี่ยงได้ง่าย อย่างหลังใช้คำอื่นเพื่ออธิบายผู้นำจีน เว็บไซต์ในไต้หวันยังมีคำแนะนำเกี่ยวกับวิธีใช้ Midjourney เพื่อ “ทำให้สนุก» เดอ สี จิ้นผิง

🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-

แหล่งที่มา : เดอะวอชิงตันโพสต์