纽约州在确保对AI的使用负责任地迈出了重要的一步。最近颁布的参议院法案S7543B被称为对政府法案自动决策的立法监督（加载法），为国家使用AI的使用建立了一个全面的框架，该框架强调透明度，问责制和对个人权利的保护。
州长凯西·霍克尔（Kathy Hochul）也签署了法律一揽子立法这加强了消费者个人数据的保护。霍克尔在一份声明中说：“纽约人不必担心他们的个人信息被滥用或陷入错误的手中。霍克尔说，她签署的立法计划构成“大胆的行动，使公司负责，加强保护并为消费者提供所需和应得的透明度和安全性。”
《加载法》的制定将纽约定位为AI和自动化系统负责任治理的领导者。通过建立严格的监督机制，该州的目标是利用技术进步的好处，同时维护其居民的权利和福祉。
随着AI几乎继续渗透到公共行政的几乎所有方面，《加载法》中概述的原则可以作为其他国家寻求平衡创新与道德责任的典范。该法对人类的监督，定期影响评估和透明度的重视反映了将技术整合到政府运营的情况下的全面方法，而不会损害个人权利。
《加载法》的主要目的是规范国家机构自动决策系统的部署。这些系统被定义为利用算法，计算模型或AI技术来制定或协助做出决策的软件，有可能影响公共援助福利，公民自由，安全和福利。认识到这一点，该立法规定，任何采用此类技术的国家机构都必须确保其受到持续且“有意义的人类监督”。新法律旨在防止未经检查的自动决定，可能会对个人的权利产生不利影响。
《加载法》“要求披露已经在使用的自动决策系统，禁止国家机构或实体代表机构未经授权使用自动决策系统，而无需有意义的人类审查，并且经授权后，需要进行影响评估。”
新法律的基石是国家机构在实施自动决策系统之前必须进行彻底影响评估。根据立法第402条所允许的计划，计划使用自动决策系统的州机构必须确保这些系统受到一致且有意义的人类监督。
在部署此类系统之前，必须首先由负责确保对技术进行适当监督和合法应用的个人完成和批准影响评估。初步评估后，必须至少每两年进行一次新的影响评估。如果对系统进行了任何重大更改，以改变其结果或影响，则必须进行新的评估。这些评估是对系统如何运行及其潜在影响的详细回顾。
影响评估必须包括对系统目标的清晰描述，对系统有效实现其目标能力的评估以及对系统设计和开发的详细说明。评估还必须包括使用算法，计算方法和AI工具的摘要，以及有关培训和系统设计的数据和过程的信息。
此外，国家机构必须进行测试，以确保系统能够准确，公平且无偏见。他们还必须评估该系统是否基于种族，种族，宗教，性别，性取向，残疾或其他受保护特征等因素产生歧视性结果。如果确定结果差异，评估必须概述解决和减轻这些问题的策略。这一严格的过程旨在确保自动化决策制度以符合性，道德以及维护公平和平等的方式实施。
为了维持持续的监督，法律规定，每两年至少进行一次影响评估。此外，对现有系统的任何重大修改可能会改变其结果，都需要进行新的评估。这种持续的评估过程旨在确保随着技术的发展，其应用仍与道德标准和公共利益保持一致。
通过将每项影响评估提交给州长，参议院临时总统和议会议长至少在系统实施之前的三十天之前，将进一步加强透明度。这项规定促进了立法监督，并允许在州政府最高水平的明智决策中做出明智的决策。
该法案还通过禁止国家机构获取使用自动决策的服务或系统而无需确保有意义的人类审查的服务来解决采购过程。该措施阻止了采用潜在有害技术，并鼓励选择遵守国家道德和法律标准的系统。
根据该法案，“有意义的人类审查”是指一个或多个人在监督和控制自动决策过程中积极参与。这些人必须了解系统的风险，限制和功能，并且必须接受有关其使用的培训。他们有权干预决策过程，并有权批准，拒绝或修改自动系统提出或做出的任何决定。这样可以确保人类的判断仍然是这种技术影响的决策核心。
在影响评估表明自动决策系统会产生歧视性或有偏见的结果的情况下，该立法要求国家机构立即终止其使用。这项决定性的行动强调了该州预防伤害和维护公平与平等原则的承诺。
参议院法案S7543B代表了政府负责使用AI的一种积极主动且看似经过深思熟虑的方法。通过建立明确的准则和监督机制，纽约正在以有效且在道德上合理的方式表明其对利用技术的承诺。 《加载法》不仅解决了当前的问题，而且还为将来的技术治理设定了先例，确保随着AI的发展，其在州内的应用仍与公平，透明度和问责制的价值保持一致。
该法案还要求评估网络安全漏洞和隐私风险，以及制定保障措施以减轻任何已确定的问题。
对《加载法》的补充是一系列立法措施，州长霍克尔签署为法律，涉及数字隐私，安全和消费者保护的各个方面。一项法律规定，社交媒体公司清楚地显示其服务条款，以告知用户并向总检察长提交有关这些条款的报告，并对不合规性予以罚款。另一项法案加强了医疗和保险数据的保障措施，旨在减少身份盗用风险。
为了增强政府的网络安全，另一项新法律要求州机构购买与国家标准和技术研究所的网络安全框架一致的计算商品和服务。此外，企业现在有义务在30天内通知受影响的当事方，并在纽约居民受到影响时立即通知金融服务部。
一项单独的措施禁止将社交媒体平台用于收债，而在线约会服务的法规已被收紧，需要更清晰的披露和协议来解决欺诈性帐户。
文章主题
|||||||
