美國國土安全部 (DHS) 剛剛發布公共部門生成人工智能部署手冊概述了將生成人工智能（GenAI）負責任地整合到公共部門運營中的綜合框架。該報告優先考慮了隱私、安全、公民權利、透明度和在線身份驗證等關鍵考慮因素。
國土安全部表示：“該手冊旨在滿足任何處於理解人工智能技術並將其納入工作的過程中的組織的需求。任何公共部門組織都可以從今天開始評估和收集資源，培養內部支持，並為有效部署 GenAI 奠定基礎。”
國土安全部首席信息官埃里克·海森 (Eric Hysen) 表示：“這本手冊的發布標誌著我們在公共部門負責任、有效地整合安全可靠的人工智能使用方面向前邁出了重要一步。” “通過分享我們的經驗和最佳實踐，我們的目標是讓其他政府機構能夠利用人工智能，增強其使命，同時保護其所服務的個人的權利和隱私。”
國土安全部表示，“GenAI 的快速發展和商業化為[國土安全部]和各級公共部門組織帶來了重大機遇和挑戰”，並指出“根據強調負責任地部署人工智能技術的第 14110 號行政命令，[它]已積極啟動 GenAI 試點計劃，以探索其在增強我們的任務能力方面的潛力。”
國土安全部表示：“這些試點舉措為 GenAI 在我們的運營中的實際應用提供了寶貴的見解，並強調了對人工智能集成採取審慎且深思熟慮的方法的重要性，確保我們的部署負責任、值得信賴和有效，同時保護隱私、公民權利和公民自由。”
今年早些時候，國土安全部發布了一份人工智能路線圖描述其計劃同時確保個人隱私權、公民權利和公民自由受到保護。
該手冊的中心主題之一是在 GenAI 部署期間保護個人隱私。國土安全部強調對敏感數據的處理進行嚴格控制，特別是在 GenAI 與公共或個人信息交互的情況下。為了降低風險，國土安全部需要明確的指導方針來定義哪些數據可以與 GenAI 系統共享並限制未經授權的使用。
國土安全部表示，隱私影響評估是該框架的組成部分，可確保 GenAI 的所有使用均符合聯邦隱私法律和法規。此外，該手冊要求在評估 GenAI 輸出時進行人類監督，強化了這些工具必須補充人類決策而不是完全取代人類決策的原則。通過將隱私專業人員納入試點綜合項目團隊，國土安全部創建了一種積極主動的隱私管理文化，最大限度地減少數據洩露或敏感信息無意洩露等風險。
該手冊還強調了實施 GenAI 系統時採取強有力的網絡安全措施的必要性。認識到人工智能係統固有的潛在漏洞，國土安全部製定了針對關鍵基礎設施和公共部門應用程序的安全指南。這些措施包括全面的風險評估、對抗穩健性的系統測試以及嚴格遵守現有的網絡安全協議。
GenAI 部署必須集成到安全的 IT 環境中，這通常需要自定義配置或使用專門的模型，例如用於離線操作的開放式 AI 系統。國土安全部表示，這種適應性對於數據安全至關重要的執法調查或移民服務等敏感應用尤其重要。該手冊還建議持續監控 GenAI 工具，以便及早發現和緩解安全威脅。
確保 GenAI 的道德應用是國土安全部框架的基石。該手冊反復強調了將人工智能的使用與憲法權利、公民自由和反歧視法結合起來的重要性。 GenAI 不得延續或加劇偏見，無論是在訓練數據還是其輸出中。這一原則在移民處理等領域至關重要，任何算法偏差都可能對個人產生重大影響。
為了保障公民權利，國土安全部表示，它已將包括公民自由專家在內的監督專業人員納入試點過程的每個階段。這種協作方法可以實時識別風險並實施糾正措施，從而增強對 GenAI 系統的信任。例如，GenAI 工具對透明度和可解釋性的要求確保包括公眾在內的所有利益相關者都能理解決策是如何做出的。
透明度對於在 GenAI 部署中建立信任至關重要。國土安全部表示，它已承諾通過其人工智能用例清單公開共享 GenAI 的非敏感用途，該資源旨在向公眾和其他利益相關者通報整個部門的人工智能應用情況。這一舉措符合政府對人工智能係統問責制的更廣泛要求。
該手冊還強調了迭代反饋和可用性測試對於完善 GenAI 工具的重要性。內部和外部利益相關者的參與是一個反復出現的主題。國土安全部表示，通過徵求用戶、監督機構和公眾的意見，它已經建立了增強系統透明度和可用性的機制，同時解決了新出現的問題。
雖然不是主要關注點，但該手冊還解決了 GenAI 部署中的在線身份驗證挑戰。確保與 GenAI 交互的用戶和系統經過正確的身份驗證是一項基本的安全措施。 DHS 提議將 GenAI 與現有身份驗證框架（例如多因素身份驗證和數字身份驗證）集成，以增強系統完整性。這些保護措施在涉及訪問機密數據或高風險決策環境的應用程序中尤其重要。
該手冊將負責任的 GenAI 使用定義為使人工智能係統與民主價值觀和社會目標保持一致。可信度是通過可靠性、安全性、透明性和公平性等特徵來實現的。為了落實這些原則，國土安全部製定了評估 GenAI 系統的綜合指南，包括其準確性、可解釋性以及對公民權利的潛在影響。
DHS 還制定了培訓計劃，以確保員工充分了解 GenAI 的功能和局限性。這些計劃旨在在整個國土安全部企業中灌輸對負責任的人工智能實踐的共同理解。國土安全部表示，這種方法不僅可以降低風險，還可以培育道德創新文化。
該手冊還提倡採用結構化治理模式，將不同的利益相關者（從技術專家到公民自由專業人士）納入其中。國土安全部表示，通過建立跨職能團隊，它確保了 GenAI 部署受益於廣泛的專業知識和觀點。治理結構還提供了一個框架來解決 GenAI 帶來的道德、法律和運營挑戰。
這國土安全部公共部門 GenAI 部署手冊代表著將人工智能負責任地融入政府運作的關鍵一步。通過解決隱私、安全、公民權利、透明度和在線身份驗證問題，該框架確保 GenAI 部署既有效又符合社會價值觀。
該手冊的整體方法不僅可以降低風險，還為公共部門組織如何以負責任和道德的方式利用人工智能的變革潛力製定了標準。隨著國土安全部不斷完善其戰略，其行動手冊成為推進值得信賴的人工智能服務公共利益的基本指南。
文章主題
||||||
