在美國關鍵基礎設施部門對人工智慧的使用缺乏“全面監管”的情況下，國土安全部（DHS）發布了“同類首例”戰略計劃指導人工智慧在國家關鍵基礎設施中安全可靠的整合。一項得到業界支持的計劃。
國土安全部表示，其新框架「是由人工智慧供應鏈每一層的實體開發並為之服務的：雲端和運算供應商、人工智慧開發商、關鍵基礎設施所有者和營運商，以及保護和倡導人工智慧的民間社會和公共部門實體”。對於消費者來說。”
這關鍵基礎設施中人工智慧的角色和責任框架這是確保人工智慧技術以增強安全性、彈性和公眾信任的方式融入國家關鍵基礎設施的重要一步。透過明確定義所有利害關係人的角色和責任，該框架旨在創造一個協作環境，在該環境中可以安全有效地利用人工智慧來支援基本服務。
該框架解決了人工智慧技術在能源、水務、交通和電信等關鍵基礎設施領域不斷增加的部署問題，旨在為各利益相關者的角色和責任提供明確的指導，以確保人工智慧應用增強這些基礎設施的彈性和效率。
國土安全部在聲明中表示，「如果參與美國關鍵基礎設施人工智慧開發、使用和部署的利益相關者採用和實施，這個自願框架將加強安全和安保實踐的協調並幫助實施安全和安保實踐，改善交付關鍵服務，增強實體之間的信任和透明度，保護公民權利和公民自由，並推進人工智慧安全和安保研究，這將進一步使關鍵基礎設施能夠負責任地部署新興技術。
該框架是行業領導者、民間社會和公共部門實體共同努力的成果，是在國土安全部新成立的國土安全部的指導下制定的。人工智慧安全與安保委員會（AISSB）。
拜登總統在 2023 年 10 月要求站立行政命令關於安全、可靠和值得信賴的人工智慧，該委員會由國土安全部長亞歷杭德羅·馬約卡斯(Alejandro Mayorkas) 於5 月首次召集，當時董事會成員發現了一些影響人工智慧安全使用和部署的問題，包括缺乏共同標準人工智慧的部署方法、實體安全缺陷以及不願在產業內共享資訊。
該委員會就在國家關鍵基礎設施中安全、可靠和負責任地開發和部署人工智慧技術向國土安全部部長、關鍵基礎設施社區、其他私營部門利益相關者以及更廣泛的公眾提供建議。該委員會的任務是製定建議，幫助關鍵基礎設施利益相關者（例如運輸服務提供者、管道和電網營運商以及網路服務供應商）負責任地利用人工智慧技術。它還將制定建議，以防止和準備與人工智慧相關的對影響國家或經濟安全、公共健康或安全的關鍵服務的干擾。
國土安全部框架補充了其他聯邦舉措，例如國家標準與技術研究所的，針對關鍵基礎設施的獨特挑戰提供針對具體部門的指導。
在宣布該框架時，馬約卡斯在一份聲明中表示，“人工智慧為提高美國關鍵基礎設施的強度和彈性提供了千載難逢的機會，我們必須抓住它，同時盡量減少其潛在危害。”
馬約卡斯表示，「該框架......將在很大程度上確保提供清潔水、穩定電力、網路存取等關鍵服務的安全性。今天參與創建人工智慧的組織和個人所做的選擇將決定這項技術明天對我們的關鍵基礎設施產生的影響。
在新聞發布會上，馬約卡斯補充道，「在組建[AISSB] 時，我尋找的成員都是各自領域的領導者，他們共同代表了定義人工智慧在關鍵基礎設施中部署的生態系統的每個組成部分。我們……組成了這樣一個董事會，由雲端和運算基礎設施提供者、人工智慧模型開發人員、關鍵基礎設施所有者和營運商、民間社會和公共部門的領導者組成。我們相信關鍵基礎設施的安全是我們的共同責任。
馬約卡斯補充說，他“希望董事會成員實施這些指導方針，促進各自領域和整個生態系統的其他組織，[並]採用和實施這些指導方針。”
國土安全部部長也表示，國土安全部正在尋求在國際上協調人工智慧標準。馬約卡斯說：“我們已經說過，我們不僅希望確保這些指導方針在國內得到採納和實施，而且在大西洋彼岸的國際上也得到採用和實施。”
商務部長吉娜·雷蒙多表示，「該框架將補充我們在商務部所做的工作，以幫助確保人工智慧在我們的關鍵基礎設施中負責任地部署，以幫助保護我們的美國同胞並確保美國經濟的未來。
Anthropic 執行長兼聯合創始人 Dario Amodei 表示：「該框架正確地識別出人工智慧系統可能為關鍵基礎設施帶來機會和挑戰。其以開發人員為中心的條款強調了評估模型功能、執行安全測試和建立安全內部系統的重要性。隨著我們對人工智慧功能及其對關鍵基礎設施影響的理解不斷發展，這些是需要持續分析和討論的關鍵領域。
此框架界定了人工智慧供應鏈不同層的職責。
雲端和運算基礎設施供應商需要保護用於開發和部署人工智慧的環境，包括審查硬體和軟體供應商、實施強大的存取管理以及確保資料中心的實體安全。
鼓勵人工智慧開發人員採用「設計安全」方法，評估人工智慧模型的潛在危險能力，並確保與以人為本的價值觀保持一致。也建議他們實施強有力的隱私實踐，並支持對存在較高風險的模型進行獨立評估。
在該框架下，關鍵基礎設施所有者和營運商有責任維護強有力的網路安全實踐，以應對人工智慧相關風險、保護客戶資料並提供人工智慧使用的透明度。也鼓勵他們監控人工智慧系統效能並分享結果，以增進對現實場景中模型行為的理解。
敦促大學、研究機構和公民社會的消費者權益倡導者參與標準制定，針對關鍵基礎設施進行人工智慧評估研究，並告知影響人工智慧系統開發的價值觀和保障措施。
聯邦、州、地方、部落和地區政府在支持負責任地採用人工智慧、提高人工智慧安全實踐標準以及開展國際合作以保護全球公民方面發揮著至關重要的作用。
該框架將人工智慧相關風險分為三個主要領域：使用人工智慧的攻擊、針對人工智慧系統的攻擊以及人工智慧設計和實施的失敗。
為了減輕這些風險，該框架提供了幾項建議：
- 採用安全設計方法：在整個人工智慧開發生命週期中整合安全措施，以防止漏洞。
- 進行全面的風險評估：定期評估人工智慧系統的潛在威脅和漏洞，同時考慮技術和營運方面。
- 增強透明度和問責制：保留人工智慧系統功能和決策流程的清晰文檔，以促進問責制和信任。
- 促進跨部門合作：鼓勵利害關係人之間的資訊共享和共同努力，以應對共同挑戰並制定統一標準。
文章主題
||||||
