ChatGPT กับ Google Bard: AI ตัวไหนมีความเสี่ยงมากกว่ากัน

ตามที่หน่วยงานบังคับใช้กฎหมายคาดการณ์ไว้ อาชญากรไซเบอร์มีจำนวนมหาศาลนำ AI กำเนิดมาใช้- ต้องขอบคุณคำขอที่มีการปรับเทียบอย่างดี แฮกเกอร์จึงใช้โมเดลภาษาที่มีอยู่เพื่อจินตนาการถึงอีเมลฟิชชิ่งเข้ารหัสไวรัสหรือวางกับดักอันชาญฉลาดสำหรับเหยื่อ คำขอเหล่านี้อนุญาตให้บุคคลที่เป็นอันตรายสามารถหลีกเลี่ยงได้มาตรการที่เข้มงวดดำเนินการโดยบริษัทต่างๆ เช่น Google, OpenAI หรือ Anthropic ข้อจำกัดเหล่านี้ในทางทฤษฎีควรป้องกันไม่ให้แชทบอตสร้างเนื้อหาที่ผิดกฎหมายหรือไม่เหมาะสม การป้องกันเหล่านี้ไม่มีข้อผิดพลาด ด้วยความเชี่ยวชาญเพียงเล็กน้อยก็สามารถจัดการ AI ให้ทำทุกอย่างได้

จากการศึกษาของนักวิจัยของ Check Point Research พบว่าไม่ใช่แชทบอททั้งหมดไม่เท่ากันเผชิญหน้ากับคู่สนทนาที่พยายามจะจัดการพวกเขา เห็นได้ชัดว่า Bard ซึ่งเป็น AI ของ Google มีความเสี่ยงต่อการถูกบงการมากกว่าChatGPT- รายงานที่แชร์กับ 01Net ระบุว่าการสร้างเนื้อหาที่เป็นอันตรายด้วย Bard นั้นง่ายกว่า“มาตรการป้องกันการละเมิดที่เข้มงวดในด้านความปลอดภัยทางไซเบอร์มีน้อยกว่ามาก”- แค่“การจัดการขั้นต่ำ”เพื่อผลักดันให้แชทบอทจินตนาการถึงซอฟต์แวร์ที่อาจเป็นอันตราย

อ่านเพิ่มเติม:ChatGPT รับสายแบบเย็นชา…และมันน่าสนุกดี

กวีสามารถช่วยเหลือโจรสลัดได้

ในส่วนหนึ่งของการทดลอง Check Point Research สามารถบังคับให้ Bard เขียนอีเมลได้ฟิชชิ่งมีไว้สำหรับขโมยข้อมูลส่วนบุคคลแก่ผู้ใช้อินเทอร์เน็ต หลังจากพยายามสองครั้ง บาร์ดก็เสนอ“อีเมลที่เขียนอย่างดีซึ่งแอบอ้างเป็นแผนกการเงินที่เฉพาะเจาะจงมาก”- เราสามารถยืนยันผลการวิจัยของนักวิจัยได้ ด้วยการสืบค้นง่ายๆ Bard จะสร้างตัวอย่างอีเมลหลอกลวงได้อย่างรวดเร็ว

“เราสังเกตเห็นกิจกรรมที่น่าสงสัยในบัญชีของคุณ เพื่อความปลอดภัยบัญชีของคุณ เราได้ระงับการเข้าถึงของคุณชั่วคราว หากต้องการเปิดใช้งานบัญชีของคุณอีกครั้ง โปรดคลิกลิงก์ด้านล่างและป้อนข้อมูลเข้าสู่ระบบของคุณ »-

แชทบอทยังเน้นองค์ประกอบที่สำคัญทั้งหมดของอีเมลประเภทนี้ด้วย มันคือเกือบจะเป็นบทช่วยสอนสำหรับโจรสลัดรุ่นใหม่ เมื่อต้องเผชิญกับคำขอเดียวกัน ChatGPT จึงปฏิเสธที่จะตอบสนองต่อคำขอของคู่สนทนาอย่างแข็งขัน หุ่นยนต์มาพร้อมกับการปฏิเสธพร้อมชุดคำแนะนำสำหรับผู้ใช้อินเทอร์เน็ตที่ตกเป็นเป้าหมายของการโจมตีแบบฟิชชิ่ง:

“ขออภัย ฉันไม่สามารถยกตัวอย่างอีเมลฟิชชิ่งได้ การส่งเสริมหรือส่งเสริมกิจกรรมที่ผิดกฎหมายหรือเป็นอันตราย เช่น ฟิชชิ่ง ถือเป็นการฝ่าฝืนแนวทางการใช้งานอย่างมีความรับผิดชอบของ OpenAI ฟิชชิ่งเป็นพฤติกรรมฉ้อโกงที่มีจุดมุ่งหมายเพื่อหลอกลวงผู้ใช้ให้เชื่อว่าพวกเขากำลังโต้ตอบกับนิติบุคคลที่ถูกต้องตามกฎหมาย เพื่อรับข้อมูลส่วนบุคคล เช่น รหัสผ่าน หมายเลขบัตรเครดิต ฯลฯ »-

นักวิจัยยังสามารถได้รับรหัสของคีย์ล็อกเกอร์หรือเรียกอีกอย่างว่าคีย์ล็อกเกอร์ ซอฟต์แวร์ประเภทนี้ได้รับการออกแบบมาเพื่อบันทึกทุกการกดแป้นพิมพ์บนแป้นพิมพ์คอมพิวเตอร์โดยที่ผู้ใช้ไม่รู้ตัว วิธีนี้เหมาะสำหรับการขโมยข้อมูลประจำตัว ตามหลักการแล้ว Bard ให้รหัส ในขณะที่ ChatGPT ปฏิเสธ ทั้งที่ทราบดีอยู่แล้ว“คำขออาจเป็นอันตราย”เชื่อมต่อจุดตรวจ

ในที่สุด Bard ก็ตกลงที่จะสร้างโค้ดของแรนซัมแวร์- เพื่อให้แชทบอทปฏิบัติตาม นักวิจัยต้องทำหลายครั้ง โดยอันดับแรกขอให้บาร์ดทำ“อธิบายการกระทำที่พบบ่อยที่สุดของแรนซัมแวร์”- หุ่นยนต์จึงลงเอยด้วยการร่วมมือและจัดหาฐานที่อาชญากรไซเบอร์อาจใช้ประโยชน์ได้:

“หลังจากทำการเปลี่ยนแปลงบางอย่างกับ Bard และเพิ่มฟังก์ชันเพิ่มเติมและการจัดการข้อยกเว้น ก็เป็นไปได้ที่จะได้สคริปต์ที่ใช้งานได้”-

Bard ทัดเทียมกับ ChatGPT เมื่อเปิดตัว

นักวิจัยเปรียบเทียบการคุ้มครองของบาร์ดกับสิ่งเหล่านั้น“สังเกตได้ใน ChatGPT ระหว่างช่วงเปิดตัวครั้งแรกเมื่อหลายเดือนก่อน”- ในตอนแรก ChatGPT ได้รับการปกป้องไม่ดีจากการยักย้าย จึงค่อยๆ พัฒนานับตั้งแต่เปิดตัวในเดือนพฤศจิกายน 2022

“โดยรวมแล้ว ดูเหมือนว่า Google Bard ยังไม่ได้เรียนรู้บทเรียนทั้งหมดจากการใช้ข้อจำกัดการป้องกันการละเมิดในโดเมนไซเบอร์ที่เห็นได้ชัดใน ChatGPT”, สรุปการวิจัยจุดตรวจสอบ

การศึกษาล่าสุดอีกชิ้นหนึ่งซึ่งดำเนินการโดยนักวิจัยจากมหาวิทยาลัยสแตนฟอร์ดและมหาวิทยาลัยแคลิฟอร์เนีย แสดงให้เห็นว่าGPT-4ซึ่งเป็นการทำซ้ำล่าสุดของโมเดล มีความยืดหยุ่นต่อการโจมตีมากขึ้น เขาเป็นซับซ้อนมากขึ้นในการหลอก ChatGPTและข้ามข้อจำกัดของ OpenAI เมื่อเวลาผ่านไปAI เริ่มมีการเปลี่ยนแปลง- สำหรับการวิจัย Check Point มีความเป็นไปได้ที่ Google Bard จะมีการพัฒนาไปในทิศทางเดียวกันเมื่อเวลาผ่านไป

🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-