隨著人工智慧技術的進步，便利性、安全性和隱私之間的界線變得越來越模糊。安全與新興技術中心 (CSET) 報告的最新調查結果說明了這種緊張局勢：穿過聊天窗口，進入現實世界。
該報告探討了人工智慧代理的興起，並強調了重大的隱私問題，特別是多因素身份驗證（MFA）和其他安全協議如何與人工智慧代理的日益增長的使用相交叉，這對隱私和安全構成了嚴峻的挑戰。其中令人擔憂的是 MFA 在保護敏感資訊、確保問責制和維護用戶信任方面不斷變化的作用。
圍繞人工智慧代理的隱私問題的核心在於它們對資料的依賴。為了有效發揮作用，人工智慧代理必須存取有關其用戶的大量資訊。他們追蹤習慣、偏好，甚至財務記錄和病史等敏感細節。這種資料存取要求提高了 MFA 的風險，例如密碼和實體令牌。
MFA 長期以來一直被視為確保數位服務存取安全的黃金標準。然而，人工智慧代理的興起使其實施變得複雜，並帶來瞭如何調整 MFA 協議以允許無縫代理交互，同時確保針對未經授權的訪問的強大保護措施的問題。
該報告的主要見解之一是人工智慧代理承諾的自動化與安全操作所需的責任之間的緊張關係。傳統上，MFA 協議在關鍵時刻依賴人際互動。人工智慧代理挑戰了這種範式。為了自主操作，他們需要安全地驗證自己的機制，而不需要持續的使用者輸入。
CSET 的報告表明，不斷發展的 MFA 系統可以包括生物識別身份驗證或嵌入代理本身的令牌化憑證。例如，人工智慧代理可以攜帶數位憑證作為安全身分證明，使其能夠存取受限系統或執行交易。雖然這種方法可以簡化工作流程，但它也引發了人們對這些憑證如何儲存、保護以及如果洩漏可能被濫用的擔憂。
「要求代理商提供某些類型的行為的授權證明將有助於確保代理代表其用戶採取適當的行動，」報告稱，並補充說，「這將驗證代理是否如其所聲稱的那樣，是代表用戶行事。的人，並已被授予代表該人採取具體行動的適當權力。此外，正如前面所討論的，身份驗證將有助於識別和可見性，因為許多現有的身份驗證方案（例如登入線上銀行帳戶）已經涉及一定程度的監控和日誌記錄。
報導稱，「至少，人工智慧代理可以使用一個人的憑證登入線上服務，並受到與人類用戶相同的追蹤和授權限制。然而，代理的廣泛採用也將提供部署更安全的存取控制方法的機會，例如基於公鑰基礎設施的存取控制方法，人們經常發現這些方法很難使用，但人工智慧代理可以更輕鬆地利用這些方法。也許這種類型的身份驗證可以擴展到涵蓋更廣泛的代理活動。
人工智慧代理透過集中敏感的用戶數據，為隱私帶來了另一層複雜性。為了使代理有效地執行任務，它通常必須在本地或雲端儲存資訊。這會造成單點故障，如果被破壞，可能會成為駭客的金礦。該報告強調，MFA 系統與強大的加密和標記化技術配合使用時，可以透過確保即使受到損害的資料在沒有必要的憑證的情況下也無法使用，從而降低這種風險。
然而，MFA 本身也存在漏洞。針對 MFA 系統恢復機制的網路釣魚攻擊等威脅可能會讓惡意行為者繞過最安全的設定。當人工智慧代理被納入這個等式時，風險格局就會擴大。破壞代理憑證的攻擊者不僅可以獲得單一服務的存取權限，而且可以獲得對互連繫統的整個生態系統的存取權限。
正如 CSET 報告指出的那樣，「必須保護代理操作和相關用戶資料的安全和隱私免受一系列潛在威脅。這些威脅包括參與開發和運行代理的參與者濫用敏感信息，以及惡意參與者劫持代理的操作或洩露數據。
支援安全和隱私的技術護欄包括安全編碼實踐；對抗性測試；存取控制；數據最小化；和加密。
許多人工智慧系統的不透明性進一步加劇了隱私問題。使用者通常不完全了解他們的代理人收集哪些資料、如何使用這些資料或誰最終有權存取這些資料。缺乏透明度破壞了信任，並為濫用行為創造了肥沃的土壤。在這種情況下，多因素身份驗證必須具有雙重目的：不僅要保護系統，還要讓使用者放心，他們的資料得到了負責任的處理。
「在某些情況下，不同目標之間會出現權衡。使除用戶以外的任何人都能夠了解和控制代理的運作方式可能會侵犯用戶與代理交互的安全和隱私，儘管這種侵權的程度取決於實施情況，」報告稱。
CSET 報告主張開發更透明的框架，允許使用者控制其代理程式對敏感資訊的存取。例如，使用者可以定義允許代理採取行動的特定條件，例如要求對金融交易或資料共享等高風險行為進行額外的身份驗證。這些保護措施可以透過將傳統 MFA 與即時使用者監控和警報相結合的分層身份驗證模型來實施。
“代理只能根據有效用戶的指示採取行動，」CSET 的報告稱。 「如果代理可以接受外部指令，則代理應在執行操作之前與使用者驗證這些輸入。就像許多其他軟體系統一樣，執行某些操作或存取某些功能的權限應取決於使用者的特權。特工需要強制執行這些權限並防止權限升級。
隨著人工智慧代理越來越融入日常生活，身份驗證方面的創新將在解決隱私問題方面發揮關鍵作用。去中心化身分系統和零知識證明等新興技術可以為更安全和私密的身分驗證流程提供途徑。這些方法允許用戶在不洩露敏感資訊的情況下驗證自己的身份，從而可能最大限度地減少人工智慧代理所需的資料足跡。
此外，人工智慧驅動的威脅偵測系統可以透過監控代理行為是否存在可能表明存在安全漏洞的異常情況來補充 MFA。例如，代理進行異常數量的高價值交易可能會觸發二次身份驗證要求，以確保受損的憑證不會在未被檢測到的情況下被利用。
正如 CSET 報告所示，人工智慧代理具有提高生產力和便利性的潛力，但它們也需要重新構想 MFA 等基礎系統的運作方式。在自動化和問責制之間取得適當的平衡需要技術專家、政策制定者和最終用戶之間的持續合作。透過將隱私和安全性嵌入到其核心設計中，開發人員可以確保這些工具增強而不是削弱人們對它們的信任。
文章主題
|||||
