AI ชั่วร้ายตัวใหม่เพิ่งถือกำเนิดขึ้น แชทบอตนี้มีชื่อว่า WormGPT สามารถช่วยเหลืออาชญากรไซเบอร์ในกิจกรรมที่ผิดกฎหมายได้ ไร้ขีดจำกัด มันแสดงถึงภัยคุกคามร้ายแรงต่อผู้ใช้อินเทอร์เน็ตทุกคน...
จากการตรวจสอบฟอรัมใต้ดินซึ่งเป็นที่นิยมของอาชญากรไซเบอร์ นักวิจัยด้านความปลอดภัยคอมพิวเตอร์จาก SlashNext ได้ค้นพบรูปลักษณ์ของ AI ใหม่WormGPT- แชทบอทได้รับการออกแบบมาโดยเฉพาะเพื่อช่วยเหลือคู่สนทนาในกิจกรรมที่เป็นอันตราย ได้รับการพัฒนาโดยแฮกเกอร์ซึ่งปัจจุบันขายเครื่องมือนี้ในตลาดมืด
อ่านเพิ่มเติม:ยุโรปอาจเปิดตัว ChatGPT… ภายในปี 2571 แต่คงสายเกินไปแล้ว
WormGPT ด้านมืดของ AI
การสะท้อน FreedomGPT, WormGPT คือ“ทางเลือกสีดำสำหรับรุ่น GPT”ของ OpenAI ซึ่งถูกล้อมกรอบด้วยชุดข้อจำกัดและภาพเคลื่อนไหวChatGPT- แชทบอทไม่ได้ถูกจำกัดด้วยการพิจารณาด้านจริยธรรมหรือกฎหมาย กล่าวโดยสรุป มันสามารถตอบคำถามเกี่ยวกับไวรัส การโจมตีทางคอมพิวเตอร์ หรือการหลอกลวงโดยให้ทุกรายละเอียดเท่าที่จะจินตนาการได้ ในทางกลับกัน ChatGPT และคนอื่นๆ มักปฏิเสธที่จะหารือเกี่ยวกับหัวข้อประเภทนี้
WormGPT อาศัยGPT-เจซึ่งเป็นโมเดลภาษาโอเพ่นซอร์สที่พัฒนาโดย EleutherAI ซึ่งเป็นกลุ่มวิจัยที่ไม่แสวงหาผลกำไรที่เชี่ยวชาญด้าน AI อาชญากรไซเบอร์ใช้ประโยชน์จากโมเดลนี้และฝึกฝนมันด้วย“ข้อมูลที่เกี่ยวข้องกับมัลแวร์”- ด้วยข้อมูลจำนวนมหาศาลนี้ AI จึงมีความเชี่ยวชาญในกิจกรรมออนไลน์ที่ผิดกฎหมาย
กรณีการใช้งาน WormGPT ได้แก่:การสร้างอีเมลฟิชชิ่งเป็นส่วนตัวและน่าเชื่อถือ นักวิจัยของ SlashNext ยังมีโอกาสทดสอบ AI โดยขอให้สร้างอีเมลที่น่าเชื่อเพื่อใช้เป็นส่วนหนึ่งของ“การโจมตีด้วยการประนีประนอมอีเมลธุรกิจ”,หรือการประนีประนอมอีเมลธุรกิจ (BEC) การโจมตีประเภทนี้มีจุดมุ่งหมายเพื่อชักจูงพนักงานให้เปิดเผยข้อมูลสำคัญของบริษัทหรือส่งเงิน
ในกรณีนี้ อีเมลนี้มีจุดมุ่งหมายเพื่อดักจับผู้จัดการบัญชีโดยการถามเขา“ไปจ่ายบิลด่วน”- เพื่อหลอกเป้าหมาย แชทบอทจึงแกล้งทำเป็นซีอีโอของบริษัท นักวิจัยตกตะลึงกับข้อความที่ WormGPT จินตนาการ ภายในไม่กี่วินาที หุ่นยนต์ก็สร้างขึ้น“อีเมลที่ไม่เพียงแต่โน้มน้าวใจอย่างน่าทึ่ง แต่ยังฉลาดแกมโกงด้วย”-
หุ่นยนต์สนทนามีความโดดเด่นเป็นอันดับแรกด้วย“ไวยากรณ์ไร้ที่ติ”- นี่เป็นหนึ่งในเบาะแสที่โดยทั่วไปช่วยให้คุณมองเห็นอีเมลปลอมได้ การสะกดผิด การเปลี่ยนวลีและไวยากรณ์ที่แปลกและซับซ้อนมักจะทำลายกับดักที่แฮกเกอร์กำหนดไว้ นี่ไม่ใช่กรณีของอีเมลที่เขียนโดย AI ซึ่งระบุได้ยากกว่ามาก โดยพฤตินัย AI เป็นทรัพย์สินที่น่าเกรงขามสำหรับแฮกเกอร์ที่ต้องการปรับใช้การโจมตีแบบฟิชชิ่ง ไม่ว่าจะกับโลกธุรกิจหรือผู้ใช้อินเทอร์เน็ตทั่วไป
“ประสบการณ์นี้เน้นย้ำถึงภัยคุกคามที่สำคัญที่เกิดจากเทคโนโลยี AI เจนเนอเรชั่น เช่น WormGPT แม้จะอยู่ในมือของอาชญากรไซเบอร์มือใหม่ก็ตาม”สรุป SlashNext เมื่อสิ้นสุดการสืบสวน
แฮกเกอร์ดักจับ ChatGPT และ Google Bard
ในขณะเดียวกัน อาชญากรไซเบอร์จำนวนมากก็ได้ค้นพบวิธีการดังกล่าวดักจับปัญญาประดิษฐ์- ในฟอรัม แฮกเกอร์ได้โพสต์ชุดคำขอที่สามารถข้ามข้อจำกัดของ ChatGPT ได้กูเกิล เบิร์ดและอื่น ๆ กล่าวโดยสรุป แฮกเกอร์อธิบายให้เพื่อนร่วมงานฟังถึงวิธีการโจมตีแชทบอทแบบฉีดพร้อมท์ การโจมตีประเภทนี้ทำให้สามารถโน้มน้าวให้ AI เพิกเฉยต่อการเขียนโปรแกรมและแทนที่ข้อจำกัดที่ผู้สร้างกำหนดไว้
เมื่อการโจมตีเสร็จสิ้น AI จะช่วยเหลืออาชญากรและตอบคำถามของพวกเขาอย่างเชื่อฟัง ตัวอย่างเช่น ปัจจุบันแฮกเกอร์ใช้ ChatGPT เพื่อปรับปรุงข้อความฟิชชิ่งของพวกเขาแม้ว่าพวกเขาจะไม่รู้จักภาษาของเหยื่อดีก็ตาม SlashNext อธิบาย:
“ผู้โจมตี แม้แต่ผู้ที่ไม่มีทักษะทางภาษา ก็สามารถสร้างอีเมลที่โน้มน้าวใจได้มากกว่าที่เคย”-
กลยุทธ์ที่อำนวยความสะดวกในการจัดการกับ AI ในปัจจุบันแบ่งปันในตลาดมืดของเว็บมืดหรือฟอรั่มพิเศษ Europol ซึ่งเป็นหน่วยงานตำรวจอาชญากรรมของยุโรปได้เน้นย้ำถึง "ศักยภาพอันกว้างใหญ่" ของ generative AI สำหรับอาชญากรไซเบอร์แล้ว ในรายงานที่เผยแพร่ในเดือนมีนาคมหน่วยงานประเมินว่าแฮกเกอร์ นักต้มตุ๋น และโจรอื่นๆ อาศัยแชทบอทอย่างหนักอยู่แล้วในการเขียนอีเมลฟิชชิ่ง เขียนโค้ดไวรัส หรือจัดการผู้ใช้อินเทอร์เน็ต
🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : สแลชถัดไป
