CyberArk、Okta 和 Google 瞄準 AI 代理安全

據分析公司 Gartner 稱，到 2028 年，四分之一的企業違規行為將與 AI 代理濫用有關。防止這種情況的一種解決方案是為人工智能代理引入身份訪問控制，CyberArk、Okta 和 Google 正在推出新的解決方案。

人工智能代理帶來身份挑戰

阿斯特里克斯安全列出了人工智能代理可能引入或解決的問題，因為非人類身份（NHIs）不能像人類數字身份一樣處理。

該公司將非人類身份定義為人工智能代理與組織數字資產之間的結締組織。 AI 代理需要訪問數據、系統和資源，並且這種訪問權限是通過非人類身份（例如 API 密鑰、服務帳戶、OAuth 令牌和其他機器憑據）提供的。

這也意味著它們的安全性是相互關聯的：人工智能代理可以通過多種方式放大身份安全挑戰並造成嚴重的漏洞。其中包括影子人工智能擴散，或員工在沒有適當監督的情況下使用現有 API 密鑰部署未註冊的人工智能代理，以及創建即使在員工離職後仍然存在的隱藏後門。

另一個危險是身份欺騙和特權濫用，這使得攻擊者能夠劫持人工智能代理的權限並獲得對系統的訪問權限。受感染的代理可能會觸發未經授權的工作流程、修改數據或策劃複雜的數據洩露活動。能夠訪問多個系統的人工智能代理可能會增加違規影響。

該公司表示：“保護人工智能代理的安全從根本上意味著保護他們使用的 NHI。” “如果人工智能代理無法訪問敏感數據，它就無法暴露它。如果其權限受到適當監控，它就無法執行未經授權的操作。”

人工智能代理需要通過關鍵系統的身份驗證，並僅限於執行其預期功能。全新的安全人工智能代理解決方案允許組織利用其身份安全平台提供的智能權限控制來降低風險。

該公司首席執行官馬特·科恩 (Matt Cohen) 表示：“從第一天起，就必須將人類身份安全原則與機器身份安全的可擴展性和自動化相結合，確保特工的安全。”

該公司在一份新聞稿中表示，新的解決方案得到了 CyberArk CORA AI 的補充，CyberArk CORA AI 是該平台的嵌入式人工智能引擎，可分析用戶和代理的行為，檢測新出現的威脅並建議自動響應操作。

該身份安全公司還致力於將埃森哲的 AI Refinery 與其身份安全平台集成。這種集成將允許基於零信任原則管理人工智能代理，即對所有用戶和設備進行持續驗證和授權。

去年，宣佈在 Auth0 平台上推出一款名為 Auth for GenAI 的新產品，旨在幫助保護生成式 AI 應用程序中的身份安全。該公司表示，該工具現已發布開發者預覽版，使他們能夠滿足構建安全代理應用程序的身份要求。

GenAI 的 Auth 與 Langchain、Llamaindex、Google GenKit 和 Vercel.ai 等流行的 AI 框架集成。它有助於確保 AI 代理具有內置身份驗證、細粒度授權、異步工作流程和安全 API 訪問。

該公司表示：“授權經常被忽視。” “代理連接到 API 的集成並未針對人工智能驅動的訪問進行優化，並且觸發電子郵件或推送通知以批准敏感操作，並且正在以最低限度的安全控制實施。”

谷歌有宣布推出開放式互操作性協議 Agent2Agent (A2A)，旨在允許人工智能代理跨框架和供應商進行協作。該產品得到 50 多個技術合作夥伴的支持，包括 Salesforce、SAP、ServiceNow 和 MongoDB。

A2A 為人工智能代理提供了一個通用框架，用於安全地交換信息、協調行動並跨企業平台集成。它旨在通過標準化代理之間的通信來解決孤立系統等挑戰。通過實現專業代理之間的互操作性，A2A 還有助於擴展代理 AI 解決方案。

谷歌已將 A2A 作為開源版本發布，預計今年晚些時候將推出可投入生產的版本。谷歌表示，與 Anthropic 的 MCP 或微軟的 AutoGen 框架不同，它強調開放協作和社區驅動的開發

||||||||