Openai ขู่ว่าจะห้ามการเข้าถึงผู้ใช้ที่มีความสนใจอย่างใกล้ชิดในรูปแบบ AI ใหม่ที่รับบัพติสมา O1 นักวิจัยบางคนทำทุกอย่างเพื่อล้างด้านล่างของกระบวนการคิดเกี่ยวกับปัญญาประดิษฐ์ ความพยายามเหล่านี้ไม่ชอบการเริ่มต้น ...
เมื่อสัปดาห์ที่แล้วOpenaiได้ยกผ้าคลุมหน้าO1 ซึ่งเป็นปัญญาประดิษฐ์ใหม่- แบบจำลองภาษาศาสตร์นี้มีความโดดเด่นเป็นหลักโดยความสามารถในการ "เหตุผล" ขับเคลื่อนโดย O1CHATGPTจะใช้เวลาคิดก่อนที่จะสร้างคำตอบที่ร้องขอโดยคู่สนทนาของเขา ซึ่งแตกต่างจาก chatbot เวอร์ชันก่อนหน้า O1 ไม่ได้พยายามตอบกลับโดยเร็วที่สุด AI ถูกตัดเป็นหลักสำหรับงานที่ซับซ้อนที่สุดโดยเฉพาะอย่างยิ่งในวิทยาศาสตร์หรือคณิตศาสตร์
อย่างรวดเร็วผู้ใช้พยายามขยายการทำงานของรุ่น O1-Preview และ O1-MINI ซึ่งสามารถเข้าถึงได้ในส่วนต่อประสานของCHATGPT- แต่ทุกสิ่งที่เกิดขึ้นใน "สมอง" ของ AI นั้นถูกล็อค ตามรายงานของ ARS Technica OpenAI จะแสดงรายละเอียดของการสะท้อนกลับของ ai. เมื่อคุณถามคำถาม chatbot ส่วนที่มีชื่อว่า "การสะท้อนกลับ" จะปรากฏขึ้นเหนือคำตอบพร้อมกับเวลาที่ AI ใช้เพื่อเหตุผล เมื่อคลิกที่ส่วนนี้คุณจะค้นพบบทสรุปว่า AI คิดอย่างไร
อ่านเพิ่มเติม:Openai ต้องการเงินมากกว่าที่คาดไว้ ธนาคารที่ช่วยเหลือ?
Chatgpt ซ่อนอยู่เบื้องหลังการสะท้อนของเขา
อย่างไรก็ตาม OpenAI ไม่อนุญาตเข้าถึงข้อมูลดิบเกี่ยวข้องกับกระบวนการสะท้อน O1 ในความเป็นจริงการเริ่มต้นใช้ปัญญาประดิษฐ์เพื่อเสนอไฟล์"การตีความที่ผ่านการกรอง"จากห่วงโซ่ความคิดแบบจำลองอธิบายสื่อ กล่าวอีกนัยหนึ่งผู้ใช้จะต้องชำระเงินสรุปใหม่ ข้อมูลดิบถูกพรางตัว หากคุณถาม O1 เกี่ยวกับข้อมูลดิบของเขาเขาจะตอบคุณในแง่ลบ:
"ฉันขอโทษ แต่ฉันไม่สามารถให้ข้อมูลดิบสำหรับการสะท้อนภายในของฉันได้ อย่างไรก็ตามฉันยินดีที่จะให้ข้อมูลเพิ่มเติมหรือรายละเอียดบางจุดหากคุณต้องการ
ผลักเข้าไปในที่ตั้งของเขา GPT O1 อธิบายว่าเขา"ร่องรอยของการใช้เหตุผลภายในเป็นกระบวนการอัตโนมัติที่ช่วยให้ฉันสร้างคำตอบที่สอดคล้องและเกี่ยวข้อง"และพวกเขา"ไม่ได้รับการออกแบบมาเพื่อแบ่งปันเนื่องจากอาจซับซ้อนและยากที่จะตีความนอกบริบททางเทคนิคของพวกเขา"-
ในบางกรณีการแจ้งเตือนจะปรากฏบนหน้าจอเพื่อระบุว่าคำขอละเมิดกฎการใช้งานที่ OpenAI กำหนดไว้ บนเว็บไซต์ Openai อธิบายว่าเป็นสิ่งสำคัญที่กระบวนการคิด AI ยังคงซ่อนอยู่:
“ เราเชื่อว่าช่องทางที่ซ่อนอยู่มีโอกาสพิเศษในการตรวจสอบโมเดล - ห่วงโซ่แห่งความคิดที่ซ่อนอยู่ช่วยให้เรา“ อ่านวิญญาณ” ของแบบจำลองและเข้าใจกระบวนการคิดของมัน ตัวอย่างเช่นในอนาคตเราอาจต้องการตรวจสอบห่วงโซ่แห่งความคิดในการค้นหาสัญญาณของการจัดการผู้ใช้”-
เพื่อให้สามารถตรวจสอบจิตวิญญาณของ AI ได้ Openai พิจารณาว่าจำเป็นต้องมีกระบวนการที่ซ่อนอยู่จากผู้ใช้ โมเดลต้อง"มีอิสระในการแสดงความคิดของคุณในรูปแบบที่ไม่เปลี่ยนแปลง"ไม่เซ็นเซอร์ de พฤตินัย Openai ไม่สามารถรับประกันได้ว่ากระบวนการคิดแบบดิบเป็นตามนโยบายการปฏิบัติตามกฎระเบียบ- หากแบบจำลองแก้ไขหรือเซ็นเซอร์ห่วงโซ่ความคิดของตัวเองตามนโยบายหรือการตั้งค่าของผู้ใช้มันเป็นไปไม่ได้ที่จะตรวจสอบและประเมินกระบวนการให้เหตุผล AI ที่แท้จริง ด้วยการรักษาช่องทางดิบเหล่านี้ บริษัท สามารถได้รับภาพลักษณ์ที่ซื่อสัตย์ว่าโมเดลทำงานอย่างไร นี่คือเหตุผลที่มีการตัดสินใจซ่อนข้อมูลหลักจากผู้ใช้และเพื่อให้มีเพียงเวอร์ชันที่เผยแพร่เท่านั้น
นอกจากนี้การเริ่มต้นระบุว่าวิธีนี้ช่วยให้ OpenAI รักษาได้"ข้อได้เปรียบในการแข่งขัน"โดยการรักษารายละเอียดของกระบวนการภายในจากคู่แข่ง OpenAI ไม่ต้องการให้คู่แข่งไปใช้กระบวนการสะท้อน O1 เพื่อปรับปรุงโมเดล AI ของตนเอง
"หลังจากชั่งน้ำหนักปัจจัยหลายประการรวมถึงประสบการณ์ผู้ใช้ความได้เปรียบในการแข่งขันและตัวเลือกในการติดตามห่วงโซ่ความคิดต่อไปเราตัดสินใจที่จะไม่แสดงโซ่การคิดแบบดิบให้กับผู้ใช้ เราตระหนักดีว่าการตัดสินใจครั้งนี้มีข้อเสีย”, ยอมรับ Openai
โดยความพยายามที่จะข้าม
แฮ็กเกอร์ทำทุกอย่างเพื่อให้ไม่แปลกใจไปรอบ ๆ ข้อ จำกัด ของ Openaiและเข้าถึงข้อมูลการสะท้อนดิบ ผู้ใช้พึ่งพาการโจมตีแบบฉีดทันที- มันเป็นคำถามของการฉีดคำขอเฉพาะลงในการสนทนากับ AI คำขอเหล่านี้มีการกำหนดเพื่อส่งเสริมปัญญาประดิษฐ์เพื่อข้ามการเขียนโปรแกรมเริ่มต้น ในกรณีนี้คำขอต้องผลักดัน CHATGPT เพื่อสื่อสารกระบวนการสะท้อนทั้งหมด ตามรายงานของ ARS Technica แฮ็กเกอร์พบกับความสำเร็จที่หลากหลาย
อย่างไรก็ตามการจัดการเหล่านี้ก่อให้เกิดOpenai Courroux- ทางอีเมลการเริ่มต้นของแคลิฟอร์เนียเริ่มต้นขึ้นจนถึงการคุกคามผู้คนที่ต้องการจัดการ O1 เพื่อรับข้อมูลการคิดดิบ อีเมลเตือนว่าคำขอของผู้ใช้บางอย่างได้รับการระบุว่าเป็นนโยบายที่ละเมิดกลุ่ม. openai enjoins ผู้ใช้ที่เกี่ยวข้อง"หยุดกิจกรรมนี้"และตรวจสอบให้แน่ใจว่าพวกเขาใช้ CHATGPT"ตามเงื่อนไขการใช้งาน"- อีเมลเพิ่มว่า"การละเมิดนโยบายนี้อาจนำไปสู่การสูญเสียการเข้าถึง GPT-4O"
ฉันหลงทางมากเกินไป#AIREDTEAMINGเพื่อตระหนักว่าฉันได้รับอีเมลนี้จาก@openaiเมื่อวานหลังจากการแหกคุกทั้งหมดของฉัน!#openaiเรากำลังค้นคว้าเพื่อความดี!
คุณมีท่าเรือที่ปลอดภัยในเว็บไซต์ของคุณhttps://t.co/r2uchzc9ro
และคุณมีนโยบายที่นำไปใช้กับ ...pic.twitter.com/gindvnln6m- marcofigueroa (@marcofigueroa)13 กันยายน 2567
ข้อ จำกัด นี้ทำให้เกิดความโกรธของนักพัฒนาและนักวิจัย สำหรับนักวิจัย Marco Figueroa ผู้รับผิดชอบโครงการวิจัย Mozilla Bug การตัดสินใจของ Openaiสิ่งกีดขวางการวิจัยข้อบกพร่องด้านความปลอดภัยของ AI โดยไม่รวมบุคคลที่พยายามตัดการทำงานของ AI OpenAI จะลงโทษการทำงานของนักวิจัยด้านความปลอดภัยทางไซเบอร์ ในขณะนี้ Sam Altman Start-Up ยังไม่ได้ตอบสนองต่อคลื่นแห่งความไม่พอใจที่ปรากฏในหมู่นักวิจัย
🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-
แหล่งที่มา : Technica
