ตามที่ บริษัท วิเคราะห์การ์ตเนอร์ภายในปี 2571 หนึ่งในสี่ของการรั่วไหลขององค์กรจะเกี่ยวข้องกับการละเมิดตัวแทน AI ทางออกหนึ่งในการป้องกันสิ่งนี้คือการแนะนำการควบคุมการเข้าถึงข้อมูลประจำตัวสำหรับตัวแทน AI และ Cyberark, Okta และ Google กำลังนำเสนอโซลูชั่นใหม่
ตัวแทน AI สร้างความท้าทายเอกลักษณ์
ความปลอดภัยของ Astrixกำหนดปัญหาที่ตัวแทน AI สามารถแนะนำหรือทำงานเป็นตัวตนที่ไม่ใช่มนุษย์ (NHIs) ไม่สามารถจัดการได้ในลักษณะเดียวกับตัวตนดิจิทัลของมนุษย์
บริษัท กำหนดอัตลักษณ์ที่ไม่ใช่มนุษย์เป็นเนื้อเยื่อเกี่ยวพันระหว่างตัวแทน AI และสินทรัพย์ดิจิทัลขององค์กร ตัวแทน AI ต้องการการเข้าถึงข้อมูลระบบและทรัพยากรและการเข้าถึงนี้ได้รับผ่านตัวตนที่ไม่ใช่มนุษย์เช่นคีย์ API บัญชีบริการโทเค็น OAuth และข้อมูลรับรองเครื่องอื่น ๆ
นี่ก็หมายความว่าการเชื่อมโยงความปลอดภัยของพวกเขา: ตัวแทน AI สามารถขยายความท้าทายด้านความปลอดภัยของตัวตนได้หลายวิธีและสร้างช่องโหว่ที่รุนแรง สิ่งเหล่านี้รวมถึงการแพร่กระจายของเงา AI หรือพนักงานปรับใช้ตัวแทน AI ที่ไม่ได้ลงทะเบียนโดยใช้ปุ่ม API ที่มีอยู่โดยไม่มีการกำกับดูแลที่เหมาะสมและการสร้างแบ็คดอร์ที่ซ่อนอยู่ซึ่งยังคงมีอยู่แม้หลังจากการทำงานของพนักงาน
อันตรายอีกประการหนึ่งคือการปลอมแปลงตัวตนและการละเมิดสิทธิพิเศษซึ่งช่วยให้ผู้โจมตีสามารถจี้การอนุญาตของตัวแทน AI และเข้าถึงระบบ ตัวแทนที่ถูกบุกรุกสามารถกระตุ้นเวิร์กโฟลว์ที่ไม่ได้รับอนุญาตปรับเปลี่ยนข้อมูลหรือการจัดทำแคมเปญการกรองข้อมูลที่ซับซ้อน ตัวแทน AI ที่มีการเข้าถึงหลายระบบสามารถเพิ่มผลกระทบการละเมิด
“ การรักษาความปลอดภัยตัวแทน AI โดยพื้นฐานหมายถึงการรักษาความปลอดภัยของ NHIs ที่พวกเขาใช้” บริษัท กล่าว “ หากเอเจนต์ AI ไม่สามารถเข้าถึงข้อมูลที่ละเอียดอ่อนได้ก็ไม่สามารถเปิดเผยได้หากได้รับการตรวจสอบการอนุญาตอย่างเหมาะสมมันจะไม่สามารถดำเนินการได้โดยไม่ได้รับอนุญาต”
Cyberark เปิดตัวโซลูชัน AI ที่ปลอดภัย
ตัวแทน AI จะต้องได้รับการรับรองความถูกต้องของระบบที่สำคัญและ จำกัด เฉพาะการปฏิบัติงานที่ตั้งใจไว้ Cyberarkโซลูชันตัวแทน AI ที่ปลอดภัยใหม่ช่วยให้องค์กรสามารถลดความเสี่ยงได้ด้วยการใช้ประโยชน์จากการควบคุมสิทธิพิเศษอัจฉริยะที่นำเสนอโดยแพลตฟอร์มความปลอดภัยประจำตัว
“ ตัวแทนจะต้องได้รับการรักษาความปลอดภัยในวันแรกโดยการรวมหลักการของความปลอดภัยเอกลักษณ์ของมนุษย์เข้ากับความสามารถในการปรับขนาดและระบบอัตโนมัติของความปลอดภัยของตัวตนของเครื่อง” แมตต์โคเฮนซีอีโอของ บริษัท กล่าว
โซลูชันใหม่นี้ได้รับการเสริมโดย Cyberark Cora AI ซึ่งเป็นเอ็นจิ้น AI ที่ฝังอยู่ของแพลตฟอร์มซึ่งวิเคราะห์พฤติกรรมของผู้ใช้และตัวแทนตรวจจับภัยคุกคามที่เกิดขึ้นใหม่และแนะนำการดำเนินการตอบสนองอัตโนมัติ บริษัท กล่าวในการเปิดตัว
บริษัท รักษาความปลอดภัยประจำตัวกำลังทำงานเพื่อรวมโรงกลั่น AI ของ Accenture เข้ากับแพลตฟอร์มความปลอดภัยประจำตัว การรวมเข้าด้วยกันนี้จะช่วยให้การจัดการตัวแทน AI ตามหลักการที่เชื่อถือได้คือการตรวจสอบอย่างต่อเนื่องและการอนุญาตสำหรับผู้ใช้และอุปกรณ์ทั้งหมด
Okta เผยแพร่การรับรองความถูกต้องสำหรับ genai
ปีที่แล้ว Oktaประกาศผลิตภัณฑ์ใหม่บนแพลตฟอร์ม Auth0 ที่ออกแบบมาเพื่อช่วยรักษาความปลอดภัยในการใช้งานในแอปพลิเคชัน AI Generative ที่เรียกว่า Auth for Genai ขณะนี้เครื่องมือดังกล่าวได้รับการเผยแพร่ในตัวอย่างนักพัฒนาซอฟต์แวร์ทำให้พวกเขาสามารถปฏิบัติตามข้อกำหนดของตัวตนเพื่อสร้างแอพตัวแทนที่ปลอดภัย บริษัท กล่าว
Auth for Genai ผสมผสานกับเฟรมเวิร์ก AI ยอดนิยมเช่น Langchain, Llamaidex, Google Genkit และ Vercel.ai ช่วยให้มั่นใจว่าตัวแทน AI มีการรับรองความถูกต้องในตัวการอนุญาตอย่างละเอียดเวิร์กโฟลว์ Async และการเข้าถึง API ที่ปลอดภัย
“ การอนุญาตถูกมองข้ามบ่อยครั้ง” บริษัท กล่าว “ ตัวแทนกำลังเชื่อมต่อกับ APIs กับการรวมที่ไม่ได้รับการปรับให้เหมาะสมสำหรับการเข้าถึง AI ที่ขับเคลื่อนด้วยและอีเมลหรือการแจ้งเตือนแบบพุชที่ถูกกระตุ้นให้อนุมัติการกระทำที่ละเอียดอ่อนกำลังดำเนินการกับการควบคุมความปลอดภัยน้อยที่สุด”
Google นำเสนอโปรโตคอล Agent2agent
Google มีประกาศการเปิดตัว Open Interoperability Protocol Agent2Agent (A2A) ที่ได้รับการออกแบบมาเพื่อให้ตัวแทน AI ร่วมมือกันข้ามกรอบและผู้ขาย ผลิตภัณฑ์ได้รับการสนับสนุนโดยพันธมิตรด้านเทคโนโลยีกว่า 50 รายรวมถึง Salesforce, SAP, Servicenow และ MongoDB
A2A จัดเตรียมกรอบสากลสำหรับตัวแทน AI เพื่อแลกเปลี่ยนข้อมูลอย่างปลอดภัยประสานการกระทำและรวมเข้ากับแพลตฟอร์มระดับองค์กร มันมีจุดมุ่งหมายเพื่อจัดการกับความท้าทายเช่นระบบที่เงียบโดยการสื่อสารที่เป็นมาตรฐานระหว่างตัวแทน ด้วยการเปิดใช้งานการทำงานร่วมกันระหว่างตัวแทนเฉพาะ A2A ยังช่วยปรับขนาดโซลูชั่น AI AIGATIC
Google ได้เปิดตัว A2A เป็นโอเพ่นซอร์สในขณะที่คาดว่าจะมีรุ่นพร้อมผลิตในปลายปีนี้ ซึ่งแตกต่างจาก MCP ของมานุษยวิทยาหรือเฟรมเวิร์ก Autogen ของ Microsoft มันเน้นการทำงานร่วมกันแบบเปิดและการพัฒนาที่ขับเคลื่อนด้วยชุมชน Google กล่าว
หัวข้อบทความ
Agent2agent-ตัวแทน AI-ความปลอดภัยของ Astrix-Auth0-Cyberark-องค์กร-Google-การจัดการการเข้าถึงข้อมูลประจำตัว (IAM)-Okta
