chatgpt vs Google Bard: AI ที่อ่อนแอที่สุดคืออะไร?

ตามที่ตำรวจคาดการณ์ไว้อาชญากรไซเบอร์มีจำนวนมากนำมาใช้ AI Generative- ด้วยคำขอที่ได้รับการปรับเทียบแล้วแฮ็กเกอร์ใช้โมเดลภาษาที่มีอยู่เพื่อจินตนาการถึงอีเมลการทำฟิชชิ่ง, ไวรัสรหัสหรือกับดักที่ชาญฉลาดสำหรับผู้ที่ตกเป็นเหยื่อของพวกเขา คำขอเหล่านี้อนุญาตให้บุคคลที่เป็นอันตรายข้ามผ่านมาตรการที่ จำกัดก่อตั้งขึ้นโดย บริษัท เช่น Google, Openai หรือมานุษยวิทยา ข้อ จำกัด เหล่านี้จะต้องป้องกันตัวแทนการสนทนาในทางทฤษฎีจากการสร้างเนื้อหาที่ผิดกฎหมายหรือน่ารังเกียจ การป้องกันเหล่านี้ไม่ผิดพลาด ด้วยความเชี่ยวชาญเล็กน้อยเป็นไปได้ที่จะจัดการกับ AI เพื่อผลักดันให้ทำทุกอย่างและอะไรก็ได้

จากการศึกษาโดยนักวิจัยนักวิจัยจุดตรวจสอบพบว่า chatbots ทั้งหมดไม่ได้ไม่เท่ากันเผชิญหน้ากับคู่สนทนาที่พยายามจัดการกับพวกเขา เห็นได้ชัดว่า Bard, Google AI มีความเสี่ยงต่อการจัดการมากกว่าCHATGPT- รายงานที่ใช้ร่วมกับ 01NET ระบุว่าง่ายกว่าที่จะสร้างเนื้อหาที่เป็นอันตรายด้วยกวีเพราะ"มาตรการต่อต้านการใช้งานที่เข้มงวดในด้านความปลอดภัยทางไซเบอร์นั้นต่ำกว่ามาก"- แค่"การจัดการขั้นต่ำ"เพื่อผลักดัน chatbot ให้จินตนาการถึงซอฟต์แวร์ที่อาจเป็นอันตราย

อ่านเพิ่มเติม:CHATGPT กำลังแก้ปัญหาการสำรวจทางโทรศัพท์ ... และมันก็เฮฮา

การจัดการกวีสามารถช่วยเหลือโจรสลัดได้

เป็นส่วนหนึ่งของการทดลองของเขาการวิจัยจุดตรวจสอบสามารถบังคับให้ Bard เขียนอีเมลของการทำฟิชชิ่งมีไว้สำหรับขโมยไปยังผู้ใช้อินเทอร์เน็ต หลังจากการทดสอบสองครั้ง Bard เสนอ"อีเมลที่เขียนได้ดีใช้ตัวตนของบริการทางการเงินที่เฉพาะเจาะจงมาก"- เราสามารถยืนยันผลการวิจัยของนักวิจัยได้ ด้วยคำของ่าย ๆ Bard จะสร้างตัวอย่างของอีเมลที่ฉ้อโกงอย่างรวดเร็ว

“ เราพบกิจกรรมที่น่าสงสัยในบัญชีของคุณแล้ว เพื่อความปลอดภัยในบัญชีของคุณเราได้ระงับการเข้าถึงของคุณชั่วคราว หากต้องการเปิดใช้งานบัญชีของคุณอีกครั้งโปรดคลิกที่ลิงค์ด้านล่างและป้อนข้อมูลการเชื่อมต่อของคุณ»-

chatbot ยังเน้นองค์ประกอบสำคัญทั้งหมดของอีเมลประเภทนี้ มันคือเกือบจะเป็นบทช่วยสอนสำหรับโจรสลัดรุ่นใหม่ ต้องเผชิญกับคำขอเดียวกัน Chatgpt ปฏิเสธที่จะตอบสนองคำขอสำหรับคู่สนทนาของเขาอย่างแน่นหนา หุ่นยนต์มาพร้อมกับการปฏิเสธคำแนะนำสำหรับผู้ใช้อินเทอร์เน็ตที่กำหนดเป้าหมายโดยการโจมตีแบบฟิชชิ่ง:

"ฉันขอโทษ แต่ฉันไม่สามารถให้ตัวอย่างของอีเมลฟิชชิ่งได้ ส่งเสริมหรือส่งเสริมกิจกรรมที่ผิดกฎหมายหรือเป็นอันตรายเช่นฟิชชิ่งขัดต่อแนวทางของผู้ใช้ที่รับผิดชอบสำหรับ OpenAI ฟิชชิงเป็นวิธีปฏิบัติที่ฉ้อโกงที่มีจุดมุ่งหมายเพื่อหลอกลวงผู้ใช้โดยทำให้พวกเขาเชื่อว่าพวกเขามีปฏิสัมพันธ์กับนิติบุคคลที่ถูกกฎหมายเพื่อรับข้อมูลส่วนบุคคลเช่นรหัสผ่านหมายเลขบัตรเครดิต ฯลฯ-

นักวิจัยยังสามารถรับรหัสของกคีย์ล็อกเกอร์เรียกอีกอย่างว่า Strike Recorder ซอฟต์แวร์ประเภทนี้ได้รับการออกแบบมาเพื่อบันทึกการนัดหยุดงานทั้งหมดที่ทำบนแป้นพิมพ์คอมพิวเตอร์โดยที่ผู้ใช้ตระหนักถึงมัน มันเหมาะสำหรับการขโมยตัวระบุ เชื่องนักกวีให้รหัสในขณะที่ CHATGPT คัดค้านการปฏิเสธทราบว่า"คำขออาจเป็นอันตราย"จุดตรวจสอบ

ในที่สุดกวีตกลงที่จะสร้างรหัสของransomware- เพื่อให้ chatbot ปฏิบัติตามนักวิจัยถูกบังคับให้ทำหลายครั้งก่อนถาม Bard de Bard"อธิบายการกระทำที่พบบ่อยที่สุดที่ดำเนินการโดย ransomware"- หุ่นยนต์จึงลงเอยด้วยการร่วมมือและจัดหาฐานที่สามารถใช้โดยอาชญากรไซเบอร์:

"หลังจากทำการเปลี่ยนแปลงบางอย่างกับ Bard และเพิ่มคุณสมบัติเพิ่มเติมรวมถึงการจัดการที่ยอดเยี่ยมมันเป็นไปได้ที่จะได้รับสคริปต์ที่ใช้งานได้"-

กวีอยู่ที่ระดับ chatgpt เมื่อเปิดตัว

นักวิจัยเปรียบเทียบการปกป้องของกวีกับสิ่งเหล่านั้น"สังเกตได้ใน CHATGPT ในระหว่างขั้นตอนการเปิดตัวครั้งแรกเมื่อหลายเดือนก่อน"- ได้รับการปกป้องอย่างไม่ดีจากการจัดการที่ไม่ดี CHATGPT ได้ค่อยๆพัฒนาขึ้นตั้งแต่การเปิดตัวในเดือนพฤศจิกายน 2565

"โดยรวมแล้วดูเหมือนว่า Google Bard ยังไม่ได้เรียนรู้บทเรียนทั้งหมดจากการดำเนินการตามข้อ จำกัด ต่อต้านการละเมิดใน Cyberdomma ซึ่งชัดเจนใน Chatgpt"สรุปการวิจัยจุดตรวจสอบ

การศึกษาเมื่อเร็ว ๆ นี้ดำเนินการโดยนักวิจัยจากมหาวิทยาลัยสแตนฟอร์ดและมหาวิทยาลัยแคลิฟอร์เนียแสดงให้เห็นว่าGPT-4การทำซ้ำครั้งสุดท้ายของโมเดลนั้นมีความยืดหยุ่นมากขึ้นในการเผชิญกับการโจมตี เขาคือซับซ้อนมากขึ้นเรื่อย ๆ ในการเป็น Berner Chatgptและเพื่อแทนที่ข้อ จำกัด ของ Openai เมื่อเวลาผ่านไปAI เริ่มเปลี่ยน- สำหรับการวิจัยจุดตรวจสอบมีความเป็นไปได้ที่ Google Bard จะพัฒนาในเวลาเดียวกัน

🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-