随着AI技术的发展，便利，安全和隐私之间的界限变得越来越模糊。在安全与新兴技术中心（CSET）报告的最新发现中说明了这种紧张关系，通过聊天窗口进入现实世界。
该报告探讨了AI代理的兴起，并突出了重大隐私问题，特别是关于多因素身份验证（MFA）和其他安全协议如何与使用AI代理的日益增长的相交，这对隐私和安全构成了严重的挑战。关注点是MFA在保护敏感信息，确保问责制和保留用户信任方面的不断发展的作用。
围绕AI代理商的隐私问题的核心是他们对数据的依赖。为了有效运作，AI代理必须访问有关其用户的大量信息。他们追踪习惯，偏好甚至敏感细节，例如财务记录和医学历史。该数据访问的要求提高了MFA的赌注，例如密码和物理令牌。
长期以来，MFA一直被视为确保获得数字服务访问的黄金标准。但是，AI代理的兴起使其实施复杂化，并引入了有关如何适应MFA协议以允许无缝的代理相互作用的问题，同时确保了不受授权的访问权限的强大保护措施。
该报告的关键见解之一是AI代理承诺的自动化与安全操作所需的责任制之间的紧张关系。传统上，MFA方案依赖于关键时刻的人类互动。人工智能代理商挑战了这个范式。为了自主操作，他们需要机制来牢固地验证自己，而无需持续的用户输入。
CSET的报告表明，不断发展的MFA系统可以包括嵌入在代理本身中的生物识别验证或令牌凭证。例如，AI代理可以携带数字证书，该证书是安全的身份证明，使其能够访问受限制的系统或执行交易。尽管这种方法可以简化工作流程，但它还引起了人们对这些证书如何被妥协的存储，保护和潜在滥用的担忧。
“要求代理商提供报告说，对某些类型的行动的授权证明将有助于确保代理人代表用户适当地行事。”该报告补充说：“这将证明代理人是它所声称的，代表其所说的人所说的是，并且已被委派在该人代表该人的特定行动中采取适当的行动。此外，身份验证将有助于前面讨论的识别和可见性，因为许多现有的身份验证方案（例如，登录到在线银行帐户）已经涉及一些监视和伐木。”
报告说：“至少，AI代理可以使用一个人的凭据登录在线服务，并受到与人类用户相同的跟踪和授权限制。但是，广泛的代理采用还将提供一个机会来部署更安全的访问控制方法，例如基于公共密钥基础架构的方法，人类通常会发现使用挑战性，但可以更轻松地由AI代理使用。也许可以扩展这种身份验证，以涵盖代理商的更广泛的活动。”
AI代理通过集中敏感用户数据来引入另一层复杂性。为了使代理有效执行任务，它通常必须在本地或云中存储信息。这会产生一个单点的失败点，如果被违反，可能会成为黑客的金矿。该报告强调了MFA系统与强大的加密和令牌化技术配对时，可以通过确保即使没有必要的凭据也无法使用，可以通过确保甚至不可用的数据来降低这种风险。
但是，MFA本身并不能免疫脆弱性。诸如针对MFA系统恢复机制的网络钓鱼攻击之类的威胁可能会使恶意参与者甚至绕过最安全的设置。当AI代理被考虑到该方程式时，风险格局会扩大。损害代理商凭据的攻击者不仅可以访问单个服务，还可以访问整个互连系统的生态系统。
正如CSET报告指出的那样，“必须从一系列潜在威胁中保护代理商操作和相关用户数据的安全性和隐私。这些威胁包括参与开发和运行代理商的参与者滥用敏感信息，以及劫持代理商的行为或恶意演员对数据的渗透。”
可以支持安全性和隐私的技术护栏包括安全的编码实践；对抗测试；访问控制；数据最小化；和加密。
许多AI系统的不透明性进一步加剧了隐私问题。用户通常不完全了解其代理收集的数据，如何使用或最终可以访问它的数据。这种缺乏透明性会破坏信任，并为虐待创造肥沃的基础。在这种情况下，多因素身份验证必须达到双重目的：不仅要确保系统，而且还必须向用户保证其数据的负责任处理。
“在某些情况下，不同目标之间会出现权衡。报告说：“尽管这种侵权的程度取决于实施，但代理如何向用户以外的任何人发挥作用。
CSET报告倡导开发更透明的框架，这些框架使用户可以控制其代理商对敏感信息的访问。例如，用户可以定义允许代理行动的特定条件，例如需要对金融交易或数据共享等高风险行动进行其他身份验证。这些保障措施可以通过将传统MFA与实时用户监视和警报相结合的分层身份验证模型来实现。
“代理只能根据有效用户的说明采取行动。” CSET的报告说。 “如果代理商可以接受外部说明，则代理应在对用户行事之前与用户验证这些输入。就像许多其他软件系统一样，执行某些操作或访问某些功能的权限应取决于用户的特权。代理商将需要执行这些许可并防止特权升级。”
随着AI代理人越来越融入日常生活，身份验证的创新将在解决隐私问题方面发挥关键作用。诸如分散身份系统和零知识证明等新兴技术可以为更安全和私人的身份验证过程提供途径。这些方法允许用户在不揭示敏感信息的情况下验证其身份，从而可能最大程度地减少AI代理所需的数据足迹。
此外，AI驱动的威胁检测系统可以通过监视可能表明安全漏洞的异常行为来补充MFA。例如，制作不寻常数量的高价值交易的代理可能会触发次要身份验证要求，从而确保未在未检测的情况下利用受损的凭证。
正如CSET报告所示，AI代理提供了提高生产力和便利性的潜力，但他们还要求重新构想MFA之类的基础系统的运作方式。达到自动化和问责制之间的正确平衡将需要技术人员，决策者和最终用户之间的持续合作。通过将隐私和安全性嵌入其核心设计中，开发人员可以确保这些工具增强而不是侵蚀其放置在其中的信任。
文章主题
|||||
