隨著人工智能技術的進步，便利性、安全性和隱私之間的界限變得越來越模糊。安全與新興技術中心 (CSET) 報告的最新調查結果說明了這種緊張局勢：穿過聊天窗口，進入現實世界。
該報告探討了人工智能代理的興起，並強調了重大的隱私問題，特別是多因素身份驗證（MFA）和其他安全協議如何與人工智能代理的日益增長的使用相交叉，這對隱私和安全構成了嚴峻的挑戰。其中令人擔憂的是 MFA 在保護敏感信息、確保問責制和維護用戶信任方面不斷變化的作用。
圍繞人工智能代理的隱私問題的核心在於它們對數據的依賴。為了有效發揮作用，人工智能代理必須訪問有關其用戶的大量信息。他們跟踪習慣、偏好，甚至財務記錄和病史等敏感細節。這種數據訪問要求提高了 MFA 的風險，例如密碼和物理令牌。
MFA 長期以來一直被視為確保數字服務訪問安全的黃金標準。然而，人工智能代理的興起使其實施變得複雜，並帶來瞭如何調整 MFA 協議以允許無縫代理交互，同時確保針對未經授權的訪問的強大保護措施的問題。
該報告的主要見解之一是人工智能代理承諾的自動化與安全操作所需的責任之間的緊張關係。傳統上，MFA 協議在關鍵時刻依賴於人際互動。人工智能代理挑戰了這種範式。為了自主操作，他們需要安全地驗證自己的機制，而不需要持續的用戶輸入。
CSET 的報告表明，不斷發展的 MFA 系統可以包括生物識別身份驗證或嵌入代理本身的令牌化憑據。例如，人工智能代理可以攜帶數字證書作為安全身份證明，使其能夠訪問受限系統或執行交易。雖然這種方法可以簡化工作流程，但它也引發了人們對這些憑據如何存儲、保護以及如果洩露可能被濫用的擔憂。
“要求代理商提供某些類型的操作的授權證明將有助於確保代理代表其用戶採取適當的行動，”報告稱，並補充說，“這將驗證代理是否如其所聲稱的那樣，正在代表其所說的人行事，並且已被授予適當的權力來代表該人採取特定行動。此外，正如前面所討論的，身份驗證將有助於識別和可見性，因為許多現有的身份驗證方案（例如登錄在線銀行帳戶）已經涉及一定程度的監控和日誌記錄。 ”
報告稱，“至少，人工智能代理可以使用一個人的憑證登錄在線服務，並受到與人類用戶相同的跟踪和授權限制。然而，代理的廣泛採用也將提供部署更安全的訪問控制方法的機會，例如基於公鑰基礎設施的訪問控制方法，人類經常發現這些方法很難使用，但人工智能代理可以更輕鬆地利用這些方法。也許這種類型的身份驗證可以擴展到代理更廣泛的活動。”
人工智能代理通過集中敏感的用戶數據，給隱私帶來了另一層複雜性。為了使代理有效地執行任務，它通常必須在本地或云端存儲信息。這會造成單點故障，如果被破壞，可能會成為黑客的金礦。該報告強調，MFA 系統與強大的加密和標記化技術配合使用時，可以通過確保即使受到損害的數據在沒有必要的憑據的情況下也無法使用，從而降低這種風險。
然而，MFA 本身也存在漏洞。針對 MFA 系統恢復機制的網絡釣魚攻擊等威脅可能會讓惡意行為者繞過最安全的設置。當人工智能代理被納入這個等式時，風險格局就會擴大。破壞代理憑據的攻擊者不僅可以獲得對單個服務的訪問權限，而且可以獲得對互連繫統的整個生態系統的訪問權限。
正如 CSET 報告指出的那樣，“必須保護代理操作和相關用戶數據的安全和隱私，使其免受一系列潛在威脅。這些威脅包括參與開發和運行代理的行為者濫用敏感信息，以及惡意行為者劫持代理的操作或洩露數據。”
支持安全和隱私的技術護欄包括安全編碼實踐；對抗性測試；訪問控制；數據最小化；和加密。
許多人工智能係統的不透明性進一步加劇了隱私問題。用戶通常不完全了解他們的代理收集哪些數據、如何使用這些數據或誰最終有權訪問這些數據。缺乏透明度破壞了信任，並為濫用行為創造了肥沃的土壤。在這種情況下，多因素身份驗證必須具有雙重目的：不僅要保護系統，還要讓用戶放心，他們的數據得到了負責任的處理。
“在某些情況下，不同目標之間會出現權衡。讓用戶以外的任何人都能了解和控制代理的運作方式可能會侵犯用戶與代理交互的安全和隱私，儘管這種侵權的程度取決於實施情況，”報告稱。
CSET 報告主張開發更透明的框架，允許用戶控制其代理對敏感信息的訪問。例如，用戶可以定義允許代理採取行動的特定條件，例如要求對金融交易或數據共享等高風險行為進行額外的身份驗證。這些保護措施可以通過將傳統 MFA 與實時用戶監控和警報相結合的分層身份驗證模型來實施。
“代理應該只根據有效用戶的指令採取行動，”CSET 的報告稱。“如果代理可以接受外部指令，代理應該在對用戶採取行動之前與用戶驗證這些輸入。就像許多其他軟件系統一樣，執行某些操作或訪問某些功能的權限應取決於用戶的特權。特工需要強制執行這些權限並防止權限升級。 ”
隨著人工智能代理越來越融入日常生活，身份驗證方面的創新將在解決隱私問題方面發揮關鍵作用。去中心化身份系統和零知識證明等新興技術可以為更安全和私密的身份驗證流程提供途徑。這些方法允許用戶在不洩露敏感信息的情況下驗證自己的身份，從而可能最大限度地減少人工智能代理所需的數據足跡。
此外，人工智能驅動的威脅檢測系統可以通過監控代理行為是否存在可能表明存在安全漏洞的異常情況來補充 MFA。例如，代理進行異常數量的高價值交易可能會觸發二次身份驗證要求，以確保受損的憑據不會在未被檢測到的情況下被利用。
正如 CSET 報告所示，人工智能代理具有提高生產力和便利性的潛力，但它們也需要重新構想 MFA 等基礎系統的運作方式。在自動化和問責制之間取得適當的平衡需要技術專家、政策制定者和最終用戶之間的持續合作。通過將隱私和安全性嵌入到其核心設計中，開發人員可以確保這些工具增強而不是削弱人們對它們的信任。
文章主題
|||||
