随着人工智能技术的进步，便利性、安全性和隐私之间的界限变得越来越模糊。安全与新兴技术中心 (CSET) 报告的最新调查结果说明了这种紧张局势：穿过聊天窗口，进入现实世界。
该报告探讨了人工智能代理的兴起，并强调了重大的隐私问题，特别是多因素身份验证（MFA）和其他安全协议如何与人工智能代理的日益增长的使用相交叉，这对隐私和安全构成了严峻的挑战。其中令人担忧的是 MFA 在保护敏感信息、确保问责制和维护用户信任方面不断变化的作用。
围绕人工智能代理的隐私问题的核心在于它们对数据的依赖。为了有效发挥作用，人工智能代理必须访问有关其用户的大量信息。他们跟踪习惯、偏好，甚至财务记录和病史等敏感细节。这种数据访问要求提高了 MFA 的风险，例如密码和物理令牌。
MFA 长期以来一直被视为确保数字服务访问安全的黄金标准。然而，人工智能代理的兴起使其实施变得复杂，并带来了如何调整 MFA 协议以允许无缝代理交互，同时确保针对未经授权的访问的强大保护措施的问题。
该报告的主要见解之一是人工智能代理承诺的自动化与安全操作所需的责任之间的紧张关系。传统上，MFA 协议在关键时刻依赖于人际互动。人工智能代理挑战了这种范式。为了自主操作，他们需要安全地验证自己的机制，而不需要持续的用户输入。
CSET 的报告表明，不断发展的 MFA 系统可以包括生物识别身份验证或嵌入代理本身的令牌化凭据。例如，人工智能代理可以携带数字证书作为安全身份证明，使其能够访问受限系统或执行交易。虽然这种方法可以简化工作流程，但它也引发了人们对这些凭据如何存储、保护以及如果泄露可能被滥用的担忧。
“要求代理商提供某些类型的操作的授权证明将有助于确保代理代表其用户采取适当的行动，”报告称，并补充说，“这将验证代理是否如其所声称的那样，正在代表其所说的人行事，并且已被授予适当的权力来代表该人采取特定行动。此外，正如前面所讨论的，身份验证将有助于识别和可见性，因为许多现有的身份验证方案（例如登录在线银行帐户）已经涉及一定程度的监控和日志记录。”
报告称，“至少，人工智能代理可以使用一个人的凭证登录在线服务，并受到与人类用户相同的跟踪和授权限制。然而，代理的广泛采用也将提供部署更安全的访问控制方法的机会，例如基于公钥基础设施的访问控制方法，人类经常发现这些方法很难使用，但人工智能代理可以更轻松地利用这些方法。也许这种类型的身份验证可以扩展到代理更广泛的活动。”
人工智能代理通过集中敏感的用户数据，给隐私带来了另一层复杂性。为了使代理有效地执行任务，它通常必须在本地或云端存储信息。这会造成单点故障，如果被破坏，可能会成为黑客的金矿。该报告强调，MFA 系统与强大的加密和标记化技术配合使用时，可以通过确保即使受到损害的数据在没有必要的凭据的情况下也无法使用，从而降低这种风险。
然而，MFA 本身也存在漏洞。针对 MFA 系统恢复机制的网络钓鱼攻击等威胁可能会让恶意行为者绕过最安全的设置。当人工智能代理被纳入这个等式时，风险格局就会扩大。破坏代理凭据的攻击者不仅可以获得对单个服务的访问权限，而且可以获得对互连系统的整个生态系统的访问权限。
正如 CSET 报告指出的那样，“必须保护代理操作和相关用户数据的安全和隐私，使其免受一系列潜在威胁。这些威胁包括参与开发和运行代理的行为者滥用敏感信息，以及恶意行为者劫持代理的操作或泄露数据。”
支持安全和隐私的技术护栏包括安全编码实践；对抗性测试；访问控制；数据最小化；和加密。
许多人工智能系统的不透明性进一步加剧了隐私问题。用户通常不完全了解他们的代理收集哪些数据、如何使用这些数据或谁最终有权访问这些数据。缺乏透明度破坏了信任，并为滥用行为创造了肥沃的土壤。在这种情况下，多因素身份验证必须具有双重目的：不仅要保护系统，还要让用户放心，他们的数据得到了负责任的处理。
“在某些情况下，不同目标之间会出现权衡。让用户以外的任何人都能了解和控制代理的运作方式可能会侵犯用户与代理交互的安全和隐私，尽管这种侵权的程度取决于实施情况，”报告称。
CSET 报告主张开发更透明的框架，允许用户控制其代理对敏感信息的访问。例如，用户可以定义允许代理采取行动的特定条件，例如要求对金融交易或数据共享等高风险行为进行额外的身份验证。这些保护措施可以通过将传统 MFA 与实时用户监控和警报相结合的分层身份验证模型来实施。
“代理应该只根据有效用户的指令采取行动，”CSET 的报告称。“如果代理可以接受外部指令，代理应该在对用户采取行动之前与用户验证这些输入。就像许多其他软件系统一样，执行某些操作或访问某些功能的权限应取决于用户的特权。特工需要强制执行这些权限并防止权限升级。”
随着人工智能代理越来越融入日常生活，身份验证方面的创新将在解决隐私问题方面发挥关键作用。去中心化身份系统和零知识证明等新兴技术可以为更安全和私密的身份验证流程提供途径。这些方法允许用户在不泄露敏感信息的情况下验证自己的身份，从而可能最大限度地减少人工智能代理所需的数据足迹。
此外，人工智能驱动的威胁检测系统可以通过监控代理行为是否存在可能表明存在安全漏洞的异常情况来补充 MFA。例如，代理进行异常数量的高价值交易可能会触发二次身份验证要求，以确保受损的凭据不会在未被检测到的情况下被利用。
正如 CSET 报告所示，人工智能代理具有提高生产力和便利性的潜力，但它们也需要重新构想 MFA 等基础系统的运作方式。在自动化和问责制之间取得适当的平衡需要技术专家、政策制定者和最终用户之间的持续合作。通过将隐私和安全性嵌入到其核心设计中，开发人员可以确保这些工具增强而不是削弱人们对它们的信任。
文章主题
|||||
