随着AI代理商的到来，企业正在考虑日益增长的未来机会。其中之一是授予我们可验证的证书（VC）代表我们采取行动的访问权限 - 无论是预订前往墨西哥的假日旅行，通过Google提交税收报告，还是对Robinhood进行股票交易。
但是，在AI代理商获得通过在线服务管理我们日常任务的可能性之前，技术人员将不得不回答一些困难的问题。其中包括我们如何信任AI代理商在与系统，合作伙伴和其他代理进行互动时准确地表示有关我们的信息。
“与这些代理商的可验证凭证之间的互动确实很有价值，”产品经理Diana Jouard说。她补充说，服务提供商将能够依靠这些密码安全和可验证的索赔，而不是昂贵的集成和审查过程。
乔尔德（Jouard）在网络研讨会上讲话，探讨了本周由美国身份管理公司组织的AI代理与数字身份的交集
在身份行业中，AI代理商的主题已受到关注。自主系统通常是作为旨在自动化任务并实现复杂目标的软件工具。专家认为他们可以成为未来甚至帮助生物识别验证。
商业咨询公司高级企业安全建筑师彼得·克莱（Peter Clay）说：“从中有很多破坏。”PA咨询。
但是，与任何新技术一样，公司将必须决定如何与可验证的凭证和身份有关。粘土补充说，企业必须牢记确保数据安全，验证身份并应用零信托原则的“良好老式”规则。
他说：“你不能把头贴在沙滩上，而忽略这些东西。” “即将到来，它将改变组织的运作方式 - 希望变得更好。
AI代理也可能带来意外的风险。美国伊利诺伊州Devry University的首席信息安全官（CISO）解释说，给AI代理人的权力超出了他们的意图，或者允许他们根据错误的数据做出决定可能会使他们的意图脱轨。
使用AI代理将需要不同的方法来接近访问控件，包括定义将允许执行哪些任务以及可以访问的数据。组织将需要建立围绕谁可以提供代理数据并添加到其知识库的适当控制，谁可以在陈旧时修改，删除或更新信息。
隐私法规也将发挥作用：如果AI模型了解了有关用户的所有知识，那么删除此信息的外观将如何？
他说：“我不确定我们的控件是否会以技术增长的速度移动。”
位于AI代理人的核心的大型语言模型（LLM）等技术的缺点是，它们可能会容易受到社会工程攻击的影响，并尝试从坏演员开始尝试分享他们不应该的信息。根据乔尔德（Jouard）的说法，AI代理商也可能“自我利益”或以某种方式构建某些公司或由于公司利益而影响其用户的行为。
PA Consulting的粘土说：“这更加复杂。” “测试变得更加困难，而且您必须开始考虑它的发展阶段要比很多人意识到。”
尽管AI代理仍处于起步阶段，但许多组织都在考虑将其推出。但是，企业将不得不考虑与代理商相关的理由和用例，了解是否确实有投资回报率（ROI）以及与帮助组织相比，代理人可能造成多少摩擦。
量子计算的兴起预计将在未来10年内出现，这可能意味着企业和组织引入的许多控件可能会过时。将量子计算的力量结合起来，有可能破坏某些类型的加密，以及大型语言模型（LLMS）也可能在将来带来挑战。
“对我来说，这是一个可怕的世界，”夸说。
文章主题
||||
