美國國土安全部 (DHS) 剛發布公部門產生人工智慧部署手冊概述了將生成人工智慧（GenAI）負責任地整合到公共部門營運的綜合框架。該報告優先考慮了隱私、安全、公民權利、透明度和線上身份驗證等關鍵考慮因素。
國土安全部表示：「該手冊旨在滿足任何處於理解人工智慧技術並將其融入工作過程中的組織的需求。任何公共部門組織都可以從今天開始評估和收集資源，培養內部支持，並為 GenAI 的有效部署奠定基礎。
國土安全部首席資訊長 Eric Hysen 表示：「這本手冊的發布標誌著我們在公共部門負責任、有效地整合安全可靠的人工智慧使用方面向前邁出了重要一步。 “透過分享我們的經驗和最佳實踐，我們的目標是讓其他政府機構能夠利用人工智慧，增強其使命，同時保護其所服務的個人的權利和隱私。”
國土安全部表示，“GenAI 的快速發展和商業化為[國土安全部] 和各級公共部門組織帶來了重大機遇和挑戰”，並指出“根據強調負責任地部署人工智能技術的第14110 號行政命令， [it] 已主動啟動 GenAI 試點計劃，以探索其在增強我們的任務能力方面的潛力。
國土安全部表示：「這些試點措施為GenAI 在我們的營運中的實際應用提供了寶貴的見解，並強調了對人工智慧整合採取審慎且深思熟慮的方法的重要性，確保我們的部署負責任、值得信賴和有效，同時保護隱私、公民權利和公民自由。
今年早些時候，國土安全部發布了一份人工智慧路線圖描述其計劃同時確保個人隱私權、公民權利和公民自由受到保護。
這本手冊的中心主題之一是在 GenAI 部署期間保護個人隱私。國土安全部強調對敏感資料的處理進行嚴格控制，特別是在 GenAI 與公共或個人資訊互動的情況下。為了降低風險，國土安全部需要明確的指導方針來定義哪些資料可以與 GenAI 系統共用並限制未經授權的使用。
國土安全部表示，隱私影響評估是該框架的組成部分，可確保 GenAI 的所有使用均符合聯邦隱私法律和法規。此外，手冊要求人類監督評估 GenAI 的輸出，強化了這些工具必須補充人類決策而不是完全取代人類決策的原則。透過將隱私專業人員納入試點綜合專案團隊，國土安全部創造了一種積極主動的隱私管理文化，最大限度地減少資料外洩或敏感資訊無意外洩等風險。
手冊也強調了實施 GenAI 系統時採取強有力的網路安全措施的必要性。認識到人工智慧系統固有的潛在漏洞，國土安全部製定了針對關鍵基礎設施和公共部門應用程式的安全指南。這些措施包括全面的風險評估、對抗穩健性的系統測試以及嚴格遵守現有的網路安全協議。
GenAI 部署必須整合到安全的 IT 環境中，這通常需要自訂配置或使用專門的模型，例如用於離線操作的開放式 AI 系統。國土安全部表示，這種適應性對於資料安全至關重要的執法調查或移民服務等敏感應用尤其重要。該手冊還建議持續監控 GenAI 工具，以便及早發現和緩解安全威脅。
確保 GenAI 的道德應用是國土安全部框架的基石。該手冊一再強調了將人工智慧的使用與憲法權利、公民自由和反歧視法結合的重要性。 GenAI 不得延續或加劇偏見，無論是在訓練資料還是其輸出。這項原則在移民處理等領域至關重要，任何演算法偏差都可能對個人產生重大影響。
為了保障公民權利，國土安全部表示，它已將包括公民自由專家在內的監督專業人員納入試點過程的每個階段。這種協作方法可以即時識別風險並實施糾正措施，從而增強對 GenAI 系統的信任。例如，GenAI 工具對透明度和可解釋性的要求確保包括公眾在內的所有利害關係人能理解決策是如何做出的。
透明度對於在 GenAI 部署中建立信任至關重要。國土安全部表示，它已承諾透過其人工智慧用例清單公開共享 GenAI 的非敏感用途，該資源旨在向公眾和其他利益相關者通報整個部門的人工智慧應用。這項措施符合政府對人工智慧系統問責制的更廣泛要求。
這本手冊也強調了迭代回饋和可用性測試對於完善 GenAI 工具的重要性。內部和外部利害關係人的參與是一個反覆出現的主題。國土安全部表示，透過徵求使用者、監督機構和公眾的意見，它已經建立了一些機制來提高系統透明度和可用性，同時解決新出現的問題。
雖然不是主要關注點，但手冊也解決了 GenAI 部署中的線上身分驗證挑戰。確保與 GenAI 互動的使用者和系統經過正確的身份驗證是一項基本的安全措施。 DHS 提議將 GenAI 與現有身份驗證框架（例如多因素身份驗證和數位身份驗證）集成，以增強系統完整性。這些保護措施在涉及存取機密資料或高風險決策環境的應用程式中尤其重要。
這本手冊將負責任的 GenAI 使用定義為使人工智慧系統與民主價值和社會目標保持一致。可信度是透過可靠性、安全性、透明性和公平性等特徵來實現的。為了落實這些原則，國土安全部製定了評估 GenAI 系統的綜合指南，包括其準確性、可解釋性以及對公民權利的潛在影響。
DHS 也制定了培訓計劃，以確保員工充分了解 GenAI 的功能和限制。這些計劃旨在在整個國土安全部企業中灌輸對負責任的人工智慧實踐的共同理解。國土安全部表示，這種方法不僅可以降低風險，還可以培養道德創新文化。
這本手冊也提倡採用結構化治理模式，將不同的利害關係人（從技術專家到公民自由專業人士）納入其中。國土安全部表示，透過建立跨職能團隊，它確保了 GenAI 部署受益於廣泛的專業知識和觀點。治理結構也提供了一個框架來解決 GenAI 帶來的道德、法律和營運挑戰。
這國土安全部公共部門 GenAI 部署手冊代表著將人工智慧負責任地融入政府運作的關鍵一步。透過解決隱私、安全、公民權利、透明度和線上身分驗證問題，該框架確保 GenAI 部署既有效又符合社會價值。
這本手冊的整體方法不僅可以降低風險，還為公共部門組織如何以負責任和道德的方式利用人工智慧的變革潛力製定了標準。隨著國土安全部不斷完善其戰略，其行動手冊成為推動值得信賴的人工智慧服務公共利益的基本指南。
文章主題
||||||
