纽约州在确保负责任地使用人工智能方面向前迈出了重要一步。最近颁布的参议院法案 S7543B被称为《政府自动决策立法监督法案》（LOADing Act），为国家使用人工智能建立了一个全面的框架，强调透明度、问责制和保护个人权利。
州长凯西·霍赫尔 (Kathy Hochul) 还签署了一项法律一揽子立法从而加强对消费者个人数据的保护。霍楚尔在一份声明中表示，“纽约人永远不必担心他们的个人信息被滥用或落入坏人之手。霍楚尔表示，她签署的立法方案是“大胆的行动，旨在让公司承担责任，加强保护，并为消费者提供他们需要和应得的透明度和安全。”
《LOADing Act》的颁布使纽约成为人工智能和自动化系统负责任治理的领导者。通过建立严格的监督机制，国家旨在利用技术进步的好处，同时保障居民的权利和福祉。
随着人工智能继续渗透到公共管理的几乎所有方面，《LOADing Act》中概述的原则可以作为其他寻求平衡创新与道德责任的国家的典范。该法案强调人类监督、定期影响评估和透明度，反映了在不损害个人权利的情况下将技术融入政府运作的综合方法。
LOADing Act 的主要目标是规范国家机构对自动化决策系统的部署。这些系统被定义为利用算法、计算模型或人工智能技术来制定或协助制定决策的软件，有可能影响公共援助福利、公民自由、安全和福利。认识到这一点，立法要求任何使用此类技术的国家机构必须确保其受到持续且“有意义的人类监督”。新法律旨在防止可能对个人权利产生不利影响的未经检查的自动化决策。
LOADing 法案“要求披露已在使用的自动决策系统，禁止国家机构或代表机构的实体在未经有意义的人工审查的情况下未经授权使用自动决策系统，并且当授权，要求公布影响评估。”
新法律的基石是要求国家机构在实施自动化决策系统之前进行彻底的影响评估。根据立法第 402 条的规定，计划使用自动化决策系统的国家机构必须确保这些系统受到一致且有意义的人类监督。
在部署此类系统之前，必须首先完成影响评估，并由负责确保适当监督和合法应用该技术的人员批准。初步评估后，各机构必须至少每两年进行一次新的影响评估。如果对系统进行任何可能改变其结果或效果的重大更改，则必须进行新的评估。这些评估可以详细审查系统的运行方式及其潜在影响。
影响评估必须包括对系统目标的清晰描述、对系统有效实现其目标的能力的评估以及对系统设计和开发的详细解释。评估还必须包括所使用的算法、计算方法和人工智能工具的摘要，以及有关培训和系统设计所涉及的数据和流程的信息。
此外，国家机构必须进行测试，以确保系统准确、公平、无偏见地运行。他们还必须评估该制度是否会基于种族、民族、宗教、性别、性取向、残疾或其他受保护特征等因素产生歧视性结果。如果发现结果差异，评估必须概述解决和缓解这些问题的策略。这一严格的流程旨在确保自动化决策系统以负责任、道德的方式实施，并以维护公平和平等的方式实施。
为了保持持续的监督，法律规定至少每两年进行一次影响评估。此外，对现有系统进行任何可能改变其结果的重大修改都需要进行新的评估。这种持续的评估过程旨在确保随着技术的发展，其应用始终符合道德标准和公共利益。
要求每项影响评估至少在系统实施前三十天提交给州长、临时参议院议长和议会议长，进一步增强了透明度。该规定有利于立法监督，并允许州政府最高层做出明智的决策。
该法案还通过禁止国家机构在不确保有意义的人工审查的情况下获取利用自动化决策的服务或系统来解决采购流程问题。这项措施可以防止采用潜在有害的技术，并鼓励选择符合国家道德和法律标准的系统。
根据该法案，“有意义的人工审查”是指一个或多个个人积极参与监督和控制自动化决策过程。这些人员必须了解系统的风险、限制和功能，并且必须接受过有关其使用的培训。他们有权干预决策过程，并有权批准、拒绝或修改自动化系统提出或做出的任何决策。这确保了人类判断仍然是受此类技术影响的决策的核心。
如果影响评估显示自动决策系统产生歧视性或有偏见的结果，立法要求国家机构立即终止其使用。这一果断行动强调了国家对防止伤害和维护公平与平等原则的承诺。
参议院法案 S7543B 代表了政府负责任地使用人工智能的一种积极主动且看似经过深思熟虑的方法。通过建立明确的指导方针和监督机制，纽约正在展示其以有效且符合道德的方式利用技术的承诺。 《LOADing Act》不仅解决了当前的问题，还为未来的技术治理奠定了先例，确保随着人工智能的发展，其在国家内的应用仍然符合公平、透明和问责的价值观。
该法案还要求对网络安全漏洞和隐私风险进行评估，并制定保障措施以缓解任何已发现的问题。
Hochul 州长签署成为法律的一系列立法措施是对 LOADing Act 的补充，涉及数字隐私、安全和消费者保护的各个方面。一项法律要求社交媒体公司明确展示其服务条款，以告知用户并向总检察长提交有关这些条款的报告，并对违规行为进行处罚。另一项法案加强了对医疗和保险数据的保护，旨在降低身份盗窃风险。
为了加强政府网络安全，另一项新法律要求国家机构采购符合国家标准与技术研究院网络安全框架的计算产品和服务。此外，企业现在有义务在 30 天内将数据泄露事件通知受影响方，并在纽约居民受到影响时立即通知金融服务部。
另一项措施禁止使用社交媒体平台进行债务追收，同时收紧了对在线约会服务的监管，要求更清晰的披露和协议来解决欺诈账户问题。
文章主题
|||||||
