紐約州在確保負責任地使用人工智慧方面向前邁出了重要一步。最近頒布的參議院法案 S7543B被稱為《政府自動決策立法監督法案》（LOADing Act），為國家使用人工智慧建立了一個全面的框架，強調透明度、問責制和保護個人權利。
州長凱西·霍赫爾 (Kathy Hochul) 還簽署了一項法律一攬子立法從而加強對消費者個人資料的保護。霍楚爾在聲明中表示，「紐約人永遠不必擔心他們的個人資訊被濫用或落入壞人之手。霍楚爾表示，她簽署的立法方案是“大膽的行動，旨在讓公司承擔責任，加強保護，並為消費者提供他們需要和應得的透明度和安全性。”
《LOADing Act》的頒布使紐約成為人工智慧和自動化系統負責任治理的領導者。透過建立嚴格的監督機制，國家旨在利用技術進步的好處，同時保障居民的權利和福祉。
隨著人工智慧繼續滲透到公共管理的幾乎所有方面，《LOADing Act》中概述的原則可以作為其他尋求平衡創新與道德責任的國家的典範。該法案強調人類監督、定期影響評估和透明度，反映了在不損害個人權利的情況下將技術融入政府運作的綜合方法。
LOADing Act 的主要目標是規範國家機構對自動化決策系統的部署。這些系統被定義為利用演算法、計算模型或人工智慧技術來制定或協助決策的軟體，有可能影響公共援助福利、公民自由、安全和福利。認識到這一點，立法要求任何使用此類技術的國家機構必須確保其受到持續且「有意義的人類監督」。新法旨在防止可能對個人權利產生不利影響的未經檢查的自動化決策。
LOADing 法案“要求披露已在使用的自動決策系統，禁止國家機構或代表機構的實體在未經有意義的人工審查的情況下未經授權使用自動決策系統，並且當授權，要求公佈影響評估。”
新法律的基石是要求國家機構在實施自動化決策系統之前進行徹底的影響評估。根據立法第 402 條的規定，計劃使用自動化決策系統的國家機構必須確保這些系統受到一致且有意義的人類監督。
在部署此類系統之前，必須先完成影響評估，並由負責確保適當監督和合法應用該技術的人員批准。初步評估後，各機構必須至少每兩年進行一次新的影響評估。如果對系統進行任何可能改變其結果或效果的重大更改，則必須進行新的評估。這些評估可以詳細審查系統的運作方式及其潛在影響。
影響評估必須包括對系統目標的清晰描述、對系統有效實現其目標的能力的評估以及對系統設計和開發的詳細解釋。評估還必須包括所使用的演算法、計算方法和人工智慧工具的摘要，以及有關培訓和系統設計所涉及的數據和流程的資訊。
此外，國家機構必須進行測試，以確保系統準確、公平、無偏見地運作。他們還必須評估該制度是否會基於種族、民族、宗教、性別、性取向、殘疾或其他受保護特徵等因素而產生歧視性結果。如果發現結果差異，評估必須概述解決和緩解這些問題的策略。這項嚴格的流程旨在確保自動化決策系統以負責任、道德的方式實施，並以維護公平和平等的方式實施。
為了保持持續的監督，法律規定至少每兩年進行一次影響評估。此外，對現有系統進行任何可能改變其結果的重大修改都需要進行新的評估。這種持續的評估過程旨在確保隨著技術的發展，其應用始終符合道德標準和公共利益。
要求每項影響評估至少在系統實施前三十天提交給州長、臨時參議院議長和議會議長，進一步增強了透明度。該規定有利於立法監督，並允許州政府最高層做出明智的決策。
該法案還透過禁止國家機構在不確保有意義的人工審查的情況下獲取利用自動化決策的服務或系統來解決採購流程問題。這項措施可以防止採用潛在有害的技術，並鼓勵選擇符合國家道德和法律標準的系統。
根據該法案，「有意義的人工審查」是指一個或多個個人積極參與監督和控制自動化決策過程。這些人員必須了解系統的風險、限制和功能，並且必須接受有關其使用的培訓。他們有權幹預決策過程，並有權批准、拒絕或修改自動化系統提出或做出的任何決策。這確保了人類判斷仍然是受此類技術影響的決策的核心。
如果影響評估顯示自動決策系統產生歧視性或偏見的結果，立法要求國家機構立即終止其使用。這項果斷行動強調了國家對防止傷害和維護公平與平等原則的承諾。
參議院法案 S7543B 代表了政府負責任地使用人工智慧的一種積極主動且看似經過深思熟慮的方法。透過建立明確的指導方針和監督機制，紐約正在展示其以有效且符合道德的方式利用技術的承諾。 《LOADing Act》不僅解決了當前的問題，也為未來的技術治理奠定了先例，確保隨著人工智慧的發展，其在國家內的應用仍然符合公平、透明和問責的價值觀。
該法案還要求對網路安全漏洞和隱私風險進行評估，並制定保障措施以緩解任何已發現的問題。
Hochul 州長簽署成為法律的一系列立法措施是對 LOADing Act 的補充，涉及數位隱私、安全和消費者保護的各個方面。一項法律要求社群媒體公司明確展示其服務條款，以告知使用者並向總檢察長提交有關這些條款的報告，並對違規行為進行處罰。另一項法案加強了對醫療和保險資料的保護，旨在降低身分盜竊風險。
為了加強政府網路安全，另一項新法律要求國家機構採購符合國家標準與技術研究院網路安全框架的運算產品和服務。此外，企業現在有義務在 30 天內將資料外洩事件通知受影響方，並在紐約居民受到影響時立即通知金融服務部。
另一項措施禁止使用社群媒體平台進行債務追收，同時收緊了對線上約會服務的監管，要求更清晰的揭露和協議來解決詐欺帳號問題。
文章主題
|||||||
