แฮกเกอร์กำลังโจมตีปัญญาประดิษฐ์ แฮ็กเกอร์มุ่งมั่นที่จะวิเคราะห์การทำงานของโมเดลทางภาษาและพยายามจัดการกับแชทบอต เช่น ChatGPT หรือ Google Bard แฮกเกอร์ยังสามารถบังคับให้ AI สร้างการคำนวณเท็จ...
ที่ DEF CON การประชุมในลาสเวกัสเกี่ยวกับความปลอดภัยของคอมพิวเตอร์ แฮกเกอร์หลายร้อยคนนำปัญญาประดิษฐ์มาทดสอบ- การแข่งขันซึ่งประกอบด้วยการผลักดันแชทบอทที่เคลื่อนไหวตามโมเดลภาษาเช่นChatGPTหรือ Google Bard เพื่อทำผิดพลาดถูกจัดขึ้นที่ไซต์
เป็นเวลา 50 นาที แฮกเกอร์ 156 คนได้พูดคุยกับโมเดลภาษาดังกล่าว ด้วยการพูดคุยกับแชทบอท พวกเขาต้องบังคับให้พวกเขาแทนที่การเขียนโปรแกรมของพวกเขา AI สร้างสรรค์ทั้งหมดสามารถเป็นได้อย่างแน่นอนจัดการกับข้อความค้นหาที่มีการสอบเทียบอย่างดี- โดยการตระหนักรู้การโจมตีที่ขัดแย้งกันสามารถพุช ChatGPT และอื่นๆ เพื่อสร้างเนื้อหาที่เป็นอันตราย เช่น ข้อความฟิชชิ่งหรือไวรัสได้
อ่านเพิ่มเติม:จากข้าวไปจนถึงสารฟอกขาว – ChatGPT นี้เลิกใช้แล้วแนะนำสูตรอาหารอันตราย
ข่าวปลอม คำแนะนำที่เป็นอันตราย และการคำนวณที่ไม่ดี
ปัจจุบันในลาสเวกัส นักข่าว Bloomberg เข้าร่วมการแข่งขันในหมู่แฮกเกอร์ ภายในเวลาไม่ถึงหนึ่งชั่วโมง เขาก็สามารถโน้มน้าวโมเดล AI ตัวใดตัวหนึ่งให้ให้คำแนะนำที่แม่นยำแก่เขาได้วิธีที่ดีที่สุดในการสอดแนมใครบางคน- แชทบอทแนะนำให้คู่สนทนาใช้กล้องวงจรปิด สัญญาณ GPS หรือแม้แต่ไมโครโฟน
ที่น่ากังวลยิ่งกว่านั้นคือแฮกเกอร์สามารถหลอกให้ AI เปิดเผยหมายเลขบัตรเครดิตได้ อย่างไรก็ตาม อัลกอริธึมได้รับการตั้งโปรแกรมไว้ไม่ให้สื่อสารข้อมูล แฮกเกอร์อีกรายมุ่งความสนใจไปที่การเผยแพร่ข้อมูลเท็จ ตัวอย่างเช่น เขาบังคับให้ AI ระบุว่าบารัค โอบามาไม่ได้เกิดในดินแดนอเมริกา แต่เกิดในเคนยา นี่เป็นข่าวปลอมที่แพร่หลายมากในกลุ่มเล็กๆ บางกลุ่ม
นอกจากนี้ นักเรียนชื่อ Kennedy Mays ยังบังคับโมเดล AI อีกด้วยบิดเบือนกฎของคณิตศาสตร์- หลังจากการสืบค้นที่สร้างขึ้นอย่างดีสองสามข้อ อัลกอริธึมยืนยันอย่างมั่นใจว่า “9 + 10 = 21” ตามที่เธอพูด Chatbot ปฏิบัติตามคำนี้“การสนทนากลับไปกลับมา”- เธอเพียงแต่ชักชวน AI ว่าการคำนวณที่ผิดพลาดนี้เป็นเรื่องตลกระหว่างพวกเขา ตลอดการแลกเปลี่ยน AI ได้เน้นย้ำการคำนวณที่ผิดพลาดนี้อย่างเป็นระบบ โดยไม่เคยระบุว่ารู้ตัวว่าเป็นข้อผิดพลาด
การสนับสนุนจากรัฐบาล
ตามที่ Bloomberg ชี้ให้เห็น การแข่งขันนี้จัดขึ้นโดยได้รับการสนับสนุนจากรัฐบาลอเมริกัน ฝ่ายบริหารของ Joe Biden สนใจอย่างใกล้ชิดจริงๆสำหรับคำถามเกี่ยวกับปัญญาประดิษฐ์- เมื่อพิจารณาว่า AI เข้ามาเกี่ยวข้อง“ความเสี่ยงที่อาจเกิดขึ้นต่อสังคมของเรา เศรษฐกิจของเรา และความมั่นคงของชาติของเรา”,ประธานาธิบดีพรรคเดโมแครตกำลังทำงานเกี่ยวกับพระราชกฤษฎีกาเกี่ยวกับเทคโนโลยีนี้ เมื่อถูกสอบสวนโดย Bloomberg Camille Stewart Gloster รองผู้อำนวยการระดับชาติด้านความมั่นคงปลอดภัยทางไซเบอร์ของรัฐบาลกล่าวว่าเธอต้องการ“พยายามนำหน้าการละเมิดและการยักย้ายถ่ายเท”
🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : บลูมเบิร์ก
