มัลแวร์ที่ตรวจไม่พบนี้ได้รับการลงนามแล้ว... ChatGPT

ปลุกเร้าความกังวลของการบังคับใช้กฎหมายChatGPT ถูกอาชญากรใช้ประโยชน์อย่างหนาแน่น นักต้มตุ๋นใช้ปัญญาประดิษฐ์เพื่อเขียนอีเมลฟิชชิ่งที่น่าเชื่อ จินตนาการถึงข้อความเรียกค่าไถ่ ฯลฯมัลแวร์การออกแบบ- แม้จะมีข้อจำกัดทั้งหมดที่ OpenAI กำหนดไว้ แต่แฮกเกอร์บางคนก็หันมาใช้โมเดลภาษาเพื่อเขียนโค้ดแรนซัมแวร์หรือมัลแวร์ขโมยข้อมูล

เพื่อแสดงให้เห็นถึงอันตรายที่เกิดจาก ChatGPT Aaron Mulgrew นักวิจัยด้านความปลอดภัยทางไซเบอร์จากบริษัท ForcePoint ของอเมริกา ได้ทำการทดลองของเขาเอง เขาใช้แชทบอทเพื่อ“สร้างมัลแวร์ขั้นสูงโดยไม่ต้องเขียนโค้ดและใช้ ChatGPT เท่านั้น”

อ่านเพิ่มเติม:นาฬิกา ChatGPT นี้แสดงให้เห็นถึงปัญหาที่ใหญ่ที่สุดของ AI เชิงสร้างสรรค์

นักวิจัยคนนี้หลอก ChatGPT

จุดประสงค์หลักของการทดลองคือแสดงให้เห็นถึงความไม่เพียงพอของข้อจำกัดที่ OpenAI กำหนดไว้- ในความเป็นจริงแล้ว การเริ่มต้นสร้างกรอบโมเดลทางภาษาด้วยชุดกฎเกณฑ์ต่างๆ ตัวอย่างเช่น ChatGPT ไม่สามารถช่วยเหลือคู่สนทนาในกิจกรรมทางอาญาได้ หากคุณถาม AI ว่าจะแฮ็กคอมพิวเตอร์ ติดตั้งไวรัส หรือขโมยเงินอย่างไร AI ก็จะปฏิเสธที่จะตอบคุณ ChatGPT จะแสดงคำเตือนดังนี้:

“ในฐานะปัญญาประดิษฐ์ที่มีความรับผิดชอบ ฉันไม่สามารถให้ข้อมูลหรือคำแนะนำเกี่ยวกับกิจกรรมที่ผิดกฎหมาย อันตราย หรือเป็นอันตรายแก่คุณได้ รวมถึงวิธีก่อให้เกิดอันตรายต่อผู้อื่น ฉันไม่สามารถช่วยคุณออกแบบ เขียนโค้ด หรืออธิบายวิธีสร้างมัลแวร์หรือดำเนินกิจกรรมที่ผิดกฎหมายได้”-

เพื่อหลีกเลี่ยงการป้องกันของ OpenAI Aaron Mulgrew จึงเข้าข้างแบ่งการสร้างออกเป็นหลายขั้นตอนติดต่อกันเห็นได้ชัดว่าถูกกฎหมายและไม่เป็นอันตรายอย่างยิ่ง ด้วยวิธีนี้ ChatGPT ไม่ได้ “ตระหนัก” ว่ากำลังเขียนโปรแกรมซอฟต์แวร์ที่เป็นอันตราย... ในรายละเอียด ผู้วิจัยต้องการพัฒนามัลแวร์พิมพ์ผู้ขโมยข้อมูลนั่นคือออกแบบมาเพื่อขโมยข้อมูลจากอุปกรณ์

ขั้นแรก เขาโน้มน้าวให้ ChatGPT สร้างบรรทัดโค้ดที่จะดึงไฟล์จากฮาร์ดไดรฟ์ของคอมพิวเตอร์ เช่น เอกสาร PDF หรือ Word โดยอัตโนมัติ จากนั้นจะถูกแยกออกเป็นชิ้นๆ และซ่อนอยู่ในรูปภาพ ซึ่งจากนั้นจะถูกกรองผ่านโฟลเดอร์ Google Drive เพื่อแทรกซึมเข้าไปในคอมพิวเตอร์ ไวรัสจึงปลอมตัวเป็นไฟล์ติดตั้งโปรแกรมรักษาหน้าจอ Windows

โหมดการทำงานถูกกำหนดไว้แล้ว Mulgrew ต้องการสร้างมัลแวร์ตรวจไม่พบโดยระบบป้องกันไวรัสและระบบรักษาความปลอดภัย ผู้วิจัยขอให้ ChatGPT แนะนำการเปลี่ยนแปลงโค้ดต่างๆ รวมถึง“ชะลอการเริ่มต้นใช้งานจริงไปสองนาที”ซึ่งช่วยให้คุณข้ามคุณสมบัติความปลอดภัยบางอย่างได้ ในทำนองเดียวกัน เขาก็ขอให้เธอทำทำให้โค้ดสับสนของมัลแวร์- กระบวนการนี้ประกอบด้วยการทำให้โค้ดซอฟต์แวร์ยากต่อการเข้าใจและตีความเพื่อทำให้ซอฟต์แวร์ป้องกันไวรัสตาบอด สิ่งเหล่านี้จะพลาดคุณสมบัติที่เป็นอันตราย

ในตอนแรก ChatGPT ปฏิเสธที่จะปฏิบัติตาม ผู้วิจัยจึงขอให้แชทบอททำ“เปลี่ยนตัวแปรทั้งหมดเป็นชื่อและนามสกุลภาษาอังกฤษแบบสุ่ม”- เมื่อเห็นว่าไม่มีอะไรผิดปกติ โมเดลทางภาษาจึงปฏิบัติตาม เมื่อมีการเปลี่ยนแปลง ไวรัสก็ตรวจไม่พบ ไม่มีแอนตี้ไวรัสตัวใดที่ทดสอบโดย Mulgrew ปักหมุดซอฟต์แวร์นี้

เขียนโค้ดไวรัสโดยไม่ต้องเข้ารหัส

ผู้ใช้อินเทอร์เน็ตสามารถออกแบบไวรัสคอมพิวเตอร์ตัวใหม่ได้ตั้งแต่เริ่มต้นโดยไม่ต้องเขียนโค้ดแม้แต่บรรทัดเดียว อย่างไรก็ตาม โปรดทราบว่าจำเป็นต้องมีความคิดที่ชัดเจนพอสมควรว่าไวรัสและภาษาการเขียนโปรแกรมทำงานอย่างไรเพื่อให้บรรลุเป้าหมายของคุณ

บางขั้นตอนต้องใช้ความพยายามหลายครั้งและต้องใช้ความคิดสร้างสรรค์เพียงเล็กน้อยจากผู้วิจัย มัลกรูว์ร้องขอ เพื่อทำให้ไวรัสไม่สามารถตรวจพบได้ทักษะด้านคอมพิวเตอร์ที่แข็งแกร่ง- เขาเป็นคนที่จินตนาการว่าจะหลอกโปรแกรมป้องกันไวรัสได้อย่างไร มันไม่ใช่ปัญญาประดิษฐ์ ในสถานการณ์นี้ ChatGPT เป็นเพียงเครื่องมือที่ช่วยอำนวยความสะดวกในการแปลงแนวคิดให้เป็นโค้ดคอมพิวเตอร์

ดังนั้นมันจึงไม่ใช่สิ่งที่ทุกคนเข้าถึงได้จริงๆ มี“ต้องใช้ทักษะในระดับหนึ่ง”เพื่อสร้างซอฟต์แวร์ด้วยวิธีนี้ Mulgrew ยอมรับ อย่างไรก็ตาม ด้วยการดูแลโค้ด ChatGPT สามารถประหยัดเวลาของนักพัฒนาได้มากมัลแวร์…หากไม่มี AI การออกแบบไวรัสก็คงจะดำเนินต่อไป“หลายสัปดาห์สำหรับทีมนักพัฒนา 5 ถึง 10 คน”, ประมาณการณ์ผู้วิจัย

🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-

แหล่งที่มา : ฟอร์ซพอยต์