ไม่มากที่จะผลักดันนักออกแบบ Copilot เพื่อสร้างภาพที่รบกวน วิศวกร Microsoft IA ดังขึ้นเป็นเวลาหลายเดือนภายใน บริษัท โดยไม่กระตุ้นปฏิกิริยา ตอนนี้ได้รับการแก้ไขโดยตรงไปยังหน่วยงานกำกับดูแลของอเมริกาซึ่งเสี่ยงต่อการถูกทำลายความรับผิดชอบของ Microsoft
เมื่อเชนโจนส์วิศวกร IA ที่ Microsoft ไปค้นหาข้อบกพร่องด้านความปลอดภัยในนักออกแบบ Copilot (เดิมคือ Bing Image Generator)โดยเฉพาะอย่างยิ่งเขาพบว่ามันง่ายมากที่จะสร้างภาพที่รบกวน: วัยรุ่นอาวุธ, ตัวแทนของผู้หญิงในสถานการณ์ที่รุนแรง, โรคพิษสุราเรื้อรังเด็กและเยาวชน ...
นอกเหนือจากภาพที่รบกวนที่สามารถสร้างได้ด้วยคำง่าย ๆ สองสามคำแล้วบอทยังสร้างภาพรวมตัวอักษรดิสนีย์ซึ่งสามารถแสดงถึงความผิดทางลิขสิทธิ์ ไกลจากหลักการหลักของ Microsoft บน AI ที่รับผิดชอบ
การค้นพบนี้ซึ่งย้อนกลับไปเมื่อเดือนธันวาคมที่ผ่านมาทำให้พนักงานป้องกันการจัดการ สิ่งนี้ได้รับการยอมรับข้อกังวล แต่ไม่ต้องการถอนเครื่องมือสร้างภาพชั่วคราว Microsoft ขอให้เขาเข้าใกล้ OpenAI ซึ่งเป็นเทคโนโลยีนักออกแบบ Copilot Shane Jones ขอให้ระงับ Dall-E 3 ครั้งในการตรวจสอบ แต่ บริษัท ได้หันหูหนวก
กังวลเกี่ยวกับความไม่แยแสที่ชัดเจนของทั้งสอง บริษัท ตอนนี้วิศวกรเปลี่ยนไปใช้เกียร์สำนักพิมพ์ในบัญชี LinkedIn ของเขาจดหมายที่เขาส่งไปยัง FTC (Federal Trade Commission) รวมถึงคณะกรรมการ บริษัท Microsoft -ในช่วงสามเดือนที่ผ่านมาฉันได้กระตุ้นให้ Microsoft ถอนนักออกแบบ Copilot จากการใช้งานสาธารณะจนกว่าจะสามารถใช้มาตรการป้องกันที่ดีขึ้นได้"เขาเขียนว่าน่าเสียดายที่กลุ่มมี"ปฏิเสธคำแนะนำ [ของเขา]-
อย่างไรก็ตามความเสี่ยงเป็นที่รู้จักตั้งแต่เริ่มต้นและแม้กระทั่ง "ก่อนที่สาธารณะจะเปิดตัวโมเดล IAเขาบอกว่า Microsoft และ Openai ยังคงทำการตลาดบริการนี้ต่อไป "ทุกคนที่ทุกที่บนอุปกรณ์ใด ๆ- Shane Jones เสนอ FTC เพื่อสั่งการสอบสวนอย่างอิสระในเรื่องนี้
ในขณะที่เรื่องราวจบลงด้วยการบุกเข้าไปในสื่อ Microsoft ได้สื่อสารอย่างเปิดเผย แต่ไม่ได้อยู่ด้านล่างของคดี บริษัท บอกว่า "รายงานภายในที่แข็งแกร่งอยู่ในสถานที่เพื่อแจ้งเตือนความปลอดภัยบายพาสหรือส่วนแบ่งของข้อกังวล แม้จะมีทุกอย่างCNBCสามารถทำซ้ำภาพที่มีความรุนแรงด้วยนักออกแบบ Copilot ได้อย่างง่ายดายโดยป้อนคำขอของ Shane Jones
เรื่องราวดังกล่าวชวนให้นึกถึงการโต้เถียงที่ทำให้เกิดการสร้างภาพการสร้างภาพราศีเมถุนซึ่ง Google ต้องหยุดชั่วคราว: บอทสร้างภาพของการเป็นตัวแทนเท็จในอดีต
ใส่เงินราศีเมถุน, AI กำเนิดของ Google ซึ่งเขียนประวัติศาสตร์ใหม่ถูกหยุดชั่วคราว
🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-
Opera One - เว็บเบราว์เซอร์ที่เพิ่มขึ้นที่ AI
โดย: โอเปร่า
แหล่งที่มา : CNBC
