OpenAI เตรียมเครื่องมือที่ตรวจจับภาพที่สร้างโดย Dall-E 3

OpenAI ตระหนักถึงความเสี่ยงที่เกิดจาก Dall-E 3 ซึ่งเป็นโปรแกรมสร้างภาพใหม่ที่ขับเคลื่อนโดย AI สตาร์ทอัพจึงกำลังพัฒนาเครื่องมือที่จะทำให้สามารถระบุภาพทั้งหมดที่ออกแบบโดยปัญญาประดิษฐ์ได้

ในช่วงฤดูใบไม้ร่วงOpenAI จะเปิดตัว Dall-E รุ่นที่สาม- เมื่อรวมเข้ากับ ChatGPT แล้ว การวนซ้ำนี้จะช่วยให้สตาร์ทอัพสามารถตามทันโปรแกรมสร้างรูปภาพ เช่น MidJourney, Stable Diffusion หรือ Firefly จาก Adobe ในขณะนี้ Dall-E 3 มีให้บริการเฉพาะสมาชิก ChatGPT Plus ที่เป็นสมาชิกของโปรแกรม OpenAI เบต้าเท่านั้น

ก่อนการเปิดตัว Dall-E 3 ในเวอร์ชันสุดท้าย OpenAI เพิ่งประกาศการสร้างเครื่องมือที่สามารถระบุได้ถ้าภาพถูกสร้างขึ้นโดยปัญญาประดิษฐ์ของมัน- ในระหว่างงาน WSJ Tech Live ซึ่งจัดโดย Wall Street Journal มิรา มูราติ ผู้อำนวยการฝ่ายเทคโนโลยีใหม่ของบริษัท ได้พูดคุยสั้นๆ เกี่ยวกับโครงการนี้

อ่านเพิ่มเติม:OpenAI และ Microsoft ถูกกล่าวหาว่าขโมยข้อมูลจากผู้ใช้อินเทอร์เน็ตหลายล้านคนเพื่อสร้าง ChatGPT

OpenAI สัญญาว่าจะเป็นเครื่องมือที่มีประสิทธิภาพสำหรับรูปภาพ 99%

ตามที่เธอบอก เครื่องมือซึ่งยังอยู่ระหว่างการทดสอบภายใน สามารถตรวจจับภาพที่ออกแบบตั้งแต่เริ่มต้นโดย Dall-E ได้ในกรณี 99% บนเว็บไซต์ OpenAI นำเสนอระบบเป็น“ตัวจำแนกแหล่งที่มา”- บริษัทระบุว่าต้องการออกแบบเพื่อให้ผู้ใช้ที่ใช้ Dall-E 3 สร้างสรรค์ผลงาน ไม่รู้สึกว่าถูกตรวจสอบ ระบุใน Wall Street Journal

ด้วยเครื่องมือแห่งอนาคตนี้ สตาร์ทอัพหวังที่จะต่อสู้กับการแพร่กระจายของดีพเฟคและข่าวปลอมที่ขับเคลื่อนโดย generative AI เพื่อเผยแพร่ข้อมูลเท็จบนโซเชียลเน็ตเวิร์ก ผู้ใช้อินเทอร์เน็ตจำนวนมากไม่ลังเลที่จะออกแบบภาพตัดต่อด้วยความช่วยเหลือของ AI มีการสร้างสรรค์บางอย่างอยู่แล้วสมจริงอย่างน่าอัศจรรย์- ในช่วงไม่กี่เดือนที่ผ่านมา เราได้บันทึกอย่างน่าทึ่งการระเบิดของ Deepfake ทางการเมืองในสหรัฐอเมริกา-

ในขณะเดียวกัน คนไร้ยางอายบางคนก็ใช้ AI เพื่อปลอมตัวเป็นบุคคล- นี่คือวิธีการการปลอมแปลงของ Tom Hanks เริ่มขายประกันทันตกรรมออนไลน์หรือโคลนของช่างภาพวิดีโอ MrBeast นำผู้ใช้อินเทอร์เน็ตไปสู่การแข่งขันที่ฉ้อโกง ในที่สุด AI ก็มาพร้อมกับการเพิ่มขึ้นเช่นกันสื่อลามกอนาจาร Deepfake ที่ทำโดยไม่ได้รับความยินยอม-

สำหรับบันทึก OpenAI ได้เปิดตัวเครื่องมือที่คล้ายกันสำหรับ ChatGPT ไปแล้วในอดีต ระบบสิทธิl'AI ตัวแยกประเภทข้อความทำให้สามารถระบุความน่าจะเป็นที่ข้อความจะถูกเขียนโดย AI มากกว่าที่เขียนโดยมนุษย์ น่าเสียดายที่เครื่องมือนี้ได้รับการพิสูจน์แล้วว่าไม่สมบูรณ์อย่างรวดเร็ว บางครั้งตัวแยกประเภทจะปักหมุดเนื้อหาโดยไม่ได้ตั้งใจ และปล่อยให้ข้อความที่เขียนโดย AI จำนวนมากหลุดลอยไปในเน็ต ในความเป็นจริง การปรับเล็กน้อยเพื่อทำให้ผลลัพธ์บิดเบือนก็เพียงพอแล้ว ไม่กี่เดือนต่อมาสตาร์ทอัพจึงตัดสินใจถอดปลั๊กเครื่องมือออกชี้ไปที่ของเขา“อัตราความแม่นยำต่ำ”-