國土安全部（DHS）剛剛發布公共部門生成人工智能部署的劇本概述了將生成人工智能（Genai）負責任地整合到公共部門運營中的綜合框架。該報告優先考慮關鍵考慮因素，例如隱私，安全，公民權利，透明度和在線身份驗證。
國土安全部說：“該劇本旨在與組織中的任何地方了解和融入AI技術的任何地方。任何公共部門組織都可以從今天開始，以評估和收集資源，培養內部買入，並為有效部署Genai奠定基礎。”
DHS首席信息官埃里克·海森（Eric Hysen）表示：“本劇本的發行標誌著我們努力在公共部門以負責任地有效地整合安全AI的努力邁出了一大步。” “通過分享我們的經驗和最佳實踐，我們旨在賦予其他政府機構的能力，以增強其任務的方式利用AI，同時維護其服務個人的權利和隱私。”
DHS said that “the rapid advancement and commercialization of GenAI presents both significant opportunities and challenges for [DHS] and public sector organizations at all levels,” and noted that “in alignment with Executive Order 14110, which emphasizes the responsible deployment of AI technologies, [it] has proactively initiated GenAI pilot programs to explore their potential in enhancing our mission capabilities.”
DHS說：“這些試點計劃為Genai在我們的運營中的實際應用提供了寶貴的見解，並強調了對AI整合的測量和周到方法的重要性，以確保我們的部署負責，可信賴，有效，同時有效，同時保護隱私權，公民權利，以及公民自由。”
今年早些時候，國土安全部發布了人工智能路線圖描述其計劃同時保護個人的隱私權，公民權利和公民自由。
該劇本的中心主題之一是保護Genai部署期間的個人隱私。 DHS強調對處理敏感數據的嚴格控制，尤其是在Genai與公共或個人信息互動的情況下。為了減輕風險，DHS需要明確的準則，以定義可以與Genai系統共享哪些數據並限制未經授權的使用。
國土安全部說，隱私影響評估是該框架不可或缺的一部分，以確保Genai的所有使用都符合聯邦隱私法律和法規。此外，該劇本在評估Genai的產出時要求人類監督，從而強化了這些工具必須補充人類決策而不是完全替代的原則。通過將隱私專業人員嵌入到飛行員綜合項目團隊中，DHS系統創造了一種積極的隱私管理文化，該文化將諸如數據洩露或無意間暴露於敏感信息之類的風險最小化。
該劇本還強調了實施Genai系統時採取強大網絡安全措施的必要性。 DHS認識到AI系統固有的潛在漏洞，開發了針對關鍵基礎設施和公共部門應用程序量身定制的安全指南。這些措施包括全面的風險評估，對對抗性魯棒性的系統測試以及嚴格遵守現有的網絡安全協議。
Genai部署必須集成到安全的IT環境中，該環境通常需要自定義配置或使用專用模型，例如用於離線操作的開放重量AI系統。國土安全部表示，這種適應性對於敏感的應用程序，例如執法調查或數據安全至關重要的移民服務尤為重要。該劇本還建議對Genai工具進行持續監控，以實現早期檢測和緩解安全威脅。
確保Genai的道德應用是DHS框架的基石。該劇本反復強調，將AI使用與憲法權利，公民自由和反歧視法律保持一致的重要性。 Genai在訓練數據或其輸出中不得持續或加劇偏見。在移民處理等領域，該原則至關重要，任何算法偏見都可能對個人產生重大影響。
為了維護民權，國土安全部表示，它已將監督專業人士（包括公民自由專家）嵌入了試點過程的每個階段。這種協作方法可以實時識別風險和實施糾正措施，從而促進對Genai系統的信任。例如，Genai工具中透明度和解釋性的要求確保包括公眾在內的所有利益相關者都可以理解如何做出決策。
透明度對於建立對Genai部署的信任至關重要。國土安全部表示，它已致力於通過其AI用例清單公開共享Genai的非敏感用途，該案例庫存旨在告知公眾和其他利益相關者有關AI在該部門的應用。該倡議與更廣泛的政府要求對AI系統的問責制一致。
該劇本還強調了迭代反饋和可用性測試對完善Genai工具的重要性。內部和外部利益相關者的參與是一個反復出現的主題。 DHS通過徵集用戶，監督機構和公眾的意見，其創造了一種機制來提高系統透明度和可用性，同時解決了新出現的問題。
儘管不是主要重點，但該劇本還解決了Genai部署中的在線身份驗證挑戰。確保與Genai相互作用的用戶和系統經過適當身份驗證是一項基本安全措施。 DHS建議將Genai與現有的身份驗證框架（例如多因素身份驗證和數字身份驗證）集成到加強系統完整性。這些保障措施在涉及訪問機密數據或高風險決策環境的應用中尤為重要。
該劇本將負責任的Genai使用定義為使AI系統具有民主價值觀和社會目標。通過可靠性，安全性，透明度和公平性等特徵來實現可信賴性。為了實現這些原則，DHS已建立了評估Genai系統的綜合指南，包括其準確性，可解釋性和對公民權利的潛在影響。
國土安全部還制定了培訓計劃，以確保員工對Genai的能力和局限性進行良好的影響。這些計劃旨在灌輸對DHS企業中負責任的AI實踐的共識。國土安全部說，這種方法不僅減輕了風險，而且還促進了一種道德創新的文化。
該劇本還提倡一個結構化的治理模型，該模型結合了從技術專家到公民自由專業人員的各種利益相關者。 DHS表示，通過建立跨職能團隊，它已確保Genai部署從廣泛的專業知識和觀點中受益。治理結構還為解決Genai提出的道德，法律和運營挑戰提供了一個框架。
這DHS公共部門Genai部署的劇本代表了將AI負責任地集成到政府運營中的重要一步。通過解決隱私，安全，公民權利，透明度和在線身份驗證，該框架可確保Genai部署既有效又與社會價值觀保持一致。
該劇本的整體方法不僅減輕風險，而且為公共部門組織如何負責任地和道德上利用AI的變革潛力樹立了標準。隨著DHS繼續完善其策略，其劇本是推進公共利益服務的值得信賴的AI的基礎指南。
文章主題
||||||
