สถาบันมาตรฐานและเทคโนโลยีแห่งชาติของสหรัฐอเมริกากำลังเปิดตัวคณะทำงานสาธารณะใน Generative AI ตามที่รัฐมนตรีว่าการกระทรวงพาณิชย์ Gina Raimondo กล่าว การย้ายครั้งนี้เป็นส่วนหนึ่งของความมุ่งมั่นของการบริหาร Biden ในการจัดการกับโอกาสและความเสี่ยงที่เกี่ยวข้องกับ AI
คณะทำงาน“ จะช่วยให้คำแนะนำที่สำคัญสำหรับองค์กรที่กำลังพัฒนาปรับใช้และใช้งานAI Generativeและผู้ที่มีความรับผิดชอบในการรับรองความน่าเชื่อถือ” ไรมอนโดกล่าวในการประกาศ
อันบทความ 26 มิถุนายนจากข่าวแฮ็กเกอร์เปิดเผยความเสี่ยงที่เกี่ยวข้องกับการกำเนิด AI มันสามารถใช้สำหรับการคาดเดารหัสผ่านและ captcha-cracking รวมถึงการเสริมสร้างมัลแวร์และการโจมตีทางวิศวกรรมสังคม CHATGPT สามารถใช้ในการปรับแต่งข้อความหอก-ฟิชชิ่งตามการส่งข้อความสาธารณะของ บริษัท
ยิ่งกว่านั้นผู้บริหารและพนักงานก็ยังได้รับประโยชน์จากค่าใช้จ่ายและความสะดวกสบายของเครื่องมือ AI ที่เกิดขึ้นบางครั้งโดยไม่คำนึงถึงความเสี่ยงด้านความปลอดภัย
อันกุมภาพันธ์ 2023 การสำรวจผู้บริหาร 1,000 คนพบว่า 49 เปอร์เซ็นต์ของผู้ตอบแบบสอบถามใช้ CHATGPT ในขณะนี้และ 30 เปอร์เซ็นต์ตั้งใจที่จะทำเช่นนั้นในอนาคต ร้อยละเก้าสิบเก้าของผู้ใช้ Chatgpt เหล่านี้อ้างว่าพวกเขาได้ประหยัดเงินด้วยเครื่องมือ
พนักงานอาจใช้“ Shadow It” หรือดาวน์โหลดและรวมแอพโดยไม่ได้รับการอนุมัติจากแผนกไอทีของพวกเขา ตัวอย่างเช่นพนักงานอาจเชื่อมต่อผู้ช่วยกำหนดเวลา AI กับบัญชีอื่น ๆ โดยใช้โทเค็น OAuth
เมื่อได้รับอนุญาตแล้วเครื่องมือจะมีการสื่อสารที่สอดคล้องกับ API กับบัญชีจำนวนหนึ่งโดยไม่ต้องมีการรับรองความถูกต้องเพิ่มเติม การขโมยโทเค็นนี้จะอนุญาตให้ผู้โจมตีเข้าถึงข้อมูลจากบัญชีที่เชื่อมต่อเหล่านี้เปิดประตูไปยังการโจมตีและการรั่วไหลจำนวนมาก
คณะทำงานคือ“ โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงความเร็วขนาดและผลกระทบที่อาจเกิดขึ้นของ AI กำเนิดและศักยภาพในการปฏิวัติอุตสาหกรรมและสังคมในวงกว้างมากขึ้น” ผู้อำนวยการ NIST Laurie Locascio กล่าวในการประกาศ “ เราต้องการระบุและพัฒนาเครื่องมือเพื่อทำความเข้าใจและจัดการความเสี่ยงเหล่านั้นให้ดีขึ้น”
