รัฐนิวยอร์กได้ก้าวไปข้างหน้าอย่างมีนัยสำคัญในการรับรองว่าการใช้ AI นั้นมีความรับผิดชอบ ประกาศเมื่อเร็ว ๆ นี้วุฒิสภาบิล S7543Bเป็นที่รู้จักกันในนามการกำกับดูแลด้านกฎหมายของการตัดสินใจอัตโนมัติในพระราชบัญญัติรัฐบาล (พระราชบัญญัติการโหลด) กำหนดกรอบการทำงานที่ครอบคลุมสำหรับการใช้ AI ของรัฐที่เน้นความโปร่งใสความรับผิดชอบและการคุ้มครองสิทธิส่วนบุคคล
ผู้ว่าราชการ Kathy Hochul ก็ลงนามในกฎหมายกแพคเกจที่เสริมสร้างการปกป้องข้อมูลส่วนบุคคลของผู้บริโภค Hochul กล่าวในแถลงการณ์ว่า“ ชาวนิวยอร์กไม่ควรกังวลเกี่ยวกับข้อมูลส่วนบุคคลของพวกเขาที่ถูกนำไปใช้ในทางที่ผิดหรือตกอยู่ในมือผิด Hochul กล่าวว่าแพคเกจทางกฎหมายที่เธอลงนามถือว่า“ การกระทำที่กล้าหาญเพื่อให้ บริษัท ต้องรับผิดชอบเสริมสร้างความคุ้มครองและให้ความโปร่งใสและความปลอดภัยแก่ผู้บริโภคที่พวกเขาต้องการและสมควรได้รับ”
การออกกฎหมายของพระราชบัญญัติการโหลดวางตำแหน่งนิวยอร์กในฐานะผู้นำในการกำกับดูแลที่รับผิดชอบของ AI และระบบอัตโนมัติ โดยการกำหนดกลไกการกำกับดูแลอย่างเข้มงวดรัฐมีจุดมุ่งหมายเพื่อควบคุมประโยชน์ของความก้าวหน้าทางเทคโนโลยีในขณะที่ปกป้องสิทธิและความเป็นอยู่ที่ดีของผู้อยู่อาศัย
ในขณะที่ AI ยังคงซึมซับทุกแง่มุมของการบริหารรัฐกิจทั้งหมดหลักการที่ระบุไว้ในพระราชบัญญัติการโหลดสามารถทำหน้าที่เป็นแบบจำลองสำหรับรัฐอื่น ๆ ที่ต้องการสร้างสมดุลระหว่างนวัตกรรมด้วยความรับผิดชอบทางจริยธรรม การเน้นของพระราชบัญญัติเกี่ยวกับการกำกับดูแลของมนุษย์การประเมินผลกระทบอย่างสม่ำเสมอและความโปร่งใสสะท้อนให้เห็นถึงวิธีการที่ครอบคลุมในการบูรณาการเทคโนโลยีเข้ากับการดำเนินงานของรัฐบาลโดยไม่ลดทอนสิทธิส่วนบุคคล
วัตถุประสงค์หลักของพระราชบัญญัติการโหลดคือการควบคุมการปรับใช้ระบบการตัดสินใจอัตโนมัติโดยหน่วยงานของรัฐ ระบบเหล่านี้ถูกกำหนดให้เป็นซอฟต์แวร์ที่ใช้อัลกอริทึมแบบจำลองการคำนวณหรือเทคนิค AI เพื่อสร้างหรือช่วยในการตัดสินใจมีศักยภาพที่จะส่งผลกระทบต่อผลประโยชน์ความช่วยเหลือสาธารณะเสรีภาพพลเมืองความปลอดภัยและสวัสดิการ การตระหนักถึงสิ่งนี้กฎหมายสั่งว่าหน่วยงานของรัฐใด ๆ ที่ใช้เทคโนโลยีดังกล่าวจะต้องตรวจสอบให้แน่ใจว่าต้องอยู่ภายใต้การกำกับดูแลอย่างต่อเนื่องและ“ การกำกับดูแลมนุษย์ที่มีความหมาย” กฎหมายใหม่มีวัตถุประสงค์เพื่อป้องกันการตัดสินใจอัตโนมัติที่ไม่ได้ตรวจสอบซึ่งอาจส่งผลเสียต่อสิทธิของแต่ละบุคคล
พระราชบัญญัติการโหลด“ ต้องการ [s] การเปิดเผยระบบการตัดสินใจอัตโนมัติที่ใช้อยู่แล้วห้าม [s] การใช้ระบบการตัดสินใจอัตโนมัติโดยไม่ได้รับอนุญาตโดยหน่วยงานหรือหน่วยงานของรัฐในนามของหน่วยงานที่ไม่มีการตรวจสอบมนุษย์ที่มีความหมายและเมื่อได้รับอนุญาต
รากฐานที่สำคัญของกฎหมายใหม่คือข้อกำหนดสำหรับหน่วยงานของรัฐในการดำเนินการประเมินผลกระทบอย่างละเอียดก่อนที่จะใช้ระบบการตัดสินใจอัตโนมัติ หน่วยงานของรัฐที่วางแผนที่จะใช้ระบบการตัดสินใจอัตโนมัติตามที่อนุญาตภายใต้มาตรา 402 ของกฎหมายจะต้องตรวจสอบให้แน่ใจว่าระบบเหล่านี้อยู่ภายใต้การกำกับดูแลของมนุษย์ที่สอดคล้องและมีความหมาย
ก่อนที่จะปรับใช้ระบบดังกล่าวการประเมินผลกระทบก่อนจะต้องเสร็จสิ้นและได้รับการอนุมัติจากบุคคลที่รับผิดชอบในการตรวจสอบการกำกับดูแลที่เหมาะสมและการใช้เทคโนโลยีที่ถูกต้องตามกฎหมาย หลังจากการประเมินเบื้องต้นหน่วยงานจะต้องดำเนินการประเมินผลกระทบใหม่อย่างน้อยทุกสองปี หากมีการเปลี่ยนแปลงที่สำคัญใด ๆ กับระบบที่สามารถเปลี่ยนแปลงผลลัพธ์หรือผลกระทบของมันจะต้องทำการประเมินใหม่ การประเมินเหล่านี้ทำหน้าที่เป็นการทบทวนโดยละเอียดเกี่ยวกับวิธีการทำงานของระบบและผลกระทบที่อาจเกิดขึ้น
การประเมินผลกระทบจะต้องมีคำอธิบายที่ชัดเจนเกี่ยวกับวัตถุประสงค์ของระบบการประเมินความสามารถของระบบในการบรรลุเป้าหมายอย่างมีประสิทธิภาพและคำอธิบายโดยละเอียดเกี่ยวกับการออกแบบและการพัฒนาของระบบ การประเมินยังต้องรวมถึงบทสรุปของอัลกอริทึมวิธีการคำนวณและเครื่องมือ AI ที่ใช้รวมถึงข้อมูลเกี่ยวกับข้อมูลและกระบวนการที่เกี่ยวข้องในการฝึกอบรมและการออกแบบระบบ
นอกจากนี้หน่วยงานของรัฐจะต้องทำการทดสอบเพื่อให้แน่ใจว่าระบบทำงานได้อย่างถูกต้องเป็นธรรมและไม่มีอคติ พวกเขายังต้องประเมินว่าระบบสร้างผลลัพธ์ที่เลือกปฏิบัติตามปัจจัยต่าง ๆ เช่นเชื้อชาติเชื้อชาติศาสนาเพศรสนิยมทางเพศความพิการหรือลักษณะที่ได้รับการป้องกันอื่น ๆ หากระบุความไม่เท่าเทียมกันในผลลัพธ์การประเมินจะต้องร่างกลยุทธ์เพื่อแก้ไขและบรรเทาปัญหาเหล่านี้ กระบวนการที่เข้มงวดนี้มีวัตถุประสงค์เพื่อให้แน่ใจว่าระบบการตัดสินใจอัตโนมัติจะดำเนินการอย่างมีความรับผิดชอบจริยธรรมและในลักษณะที่สนับสนุนความเป็นธรรมและความเท่าเทียมกัน
เพื่อดูแลรักษาอย่างต่อเนื่องกฎหมายกำหนดว่าการประเมินผลกระทบจะดำเนินการอย่างน้อยหนึ่งครั้งทุกสองปี นอกจากนี้การปรับเปลี่ยนที่สำคัญใด ๆ ในระบบที่มีอยู่ซึ่งสามารถเปลี่ยนแปลงผลลัพธ์ที่จำเป็นต้องมีการประเมินใหม่ กระบวนการประเมินผลอย่างต่อเนื่องนี้มีวัตถุประสงค์เพื่อให้แน่ใจว่าเมื่อเทคโนโลยีวิวัฒนาการการใช้งานของมันยังคงสอดคล้องกับมาตรฐานทางจริยธรรมและผลประโยชน์สาธารณะ
ความโปร่งใสได้รับการเสริมแรงตามข้อกำหนดว่าการประเมินผลกระทบแต่ละครั้งจะถูกส่งไปยังผู้ว่าการรัฐประธานวุฒิสภาชั่วคราวและประธานสมัชชาอย่างน้อยสามสิบวันก่อนการดำเนินการของระบบ บทบัญญัตินี้อำนวยความสะดวกในการกำกับดูแลด้านกฎหมายและอนุญาตให้มีการตัดสินใจอย่างมีข้อมูลในระดับสูงสุดของรัฐบาลของรัฐ
พระราชบัญญัติดังกล่าวยังกล่าวถึงกระบวนการจัดซื้อจัดจ้างโดยการห้ามหน่วยงานของรัฐจากการได้รับบริการหรือระบบที่ใช้การตัดสินใจอัตโนมัติโดยไม่ต้องมั่นใจในการตรวจสอบของมนุษย์ที่มีความหมาย มาตรการนี้ป้องกันการใช้เทคโนโลยีที่อาจเป็นอันตรายและส่งเสริมการเลือกระบบที่ปฏิบัติตามมาตรฐานทางจริยธรรมและกฎหมายของรัฐ
ภายใต้พระราชบัญญัติ“ การทบทวนมนุษย์ที่มีความหมาย” หมายถึงการมีส่วนร่วมอย่างแข็งขันของบุคคลหนึ่งคนขึ้นไปในการดูแลและควบคุมกระบวนการตัดสินใจอัตโนมัติ บุคคลเหล่านี้จะต้องมีความรู้เกี่ยวกับความเสี่ยงข้อ จำกัด และการใช้งานของระบบและต้องได้รับการฝึกอบรมเกี่ยวกับการใช้งาน พวกเขามีอำนาจในการแทรกแซงในกระบวนการตัดสินใจและมีอำนาจในการอนุมัติปฏิเสธหรือแก้ไขการตัดสินใจที่เสนอหรือทำโดยระบบอัตโนมัติ สิ่งนี้ทำให้มั่นใจได้ว่าการตัดสินของมนุษย์ยังคงเป็นศูนย์กลางของการตัดสินใจที่ได้รับอิทธิพลจากเทคโนโลยีดังกล่าว
ในกรณีที่การประเมินผลกระทบแสดงให้เห็นว่าระบบการตัดสินใจอัตโนมัติก่อให้เกิดผลลัพธ์ที่เลือกปฏิบัติหรือลำเอียงกฎหมายได้บังคับให้หน่วยงานของรัฐยุติการใช้งานทันที การกระทำที่เด็ดขาดนี้เป็นการตอกย้ำความมุ่งมั่นของรัฐในการป้องกันอันตรายและสนับสนุนหลักการของความเป็นธรรมและความเท่าเทียมกัน
วุฒิสภาบิล S7543B แสดงให้เห็นถึงแนวทางเชิงรุกและดูเหมือนดีในการใช้ AI อย่างรับผิดชอบโดยรัฐบาล ด้วยการสร้างแนวทางที่ชัดเจนและกลไกการกำกับดูแลนิวยอร์กแสดงให้เห็นถึงความมุ่งมั่นในการใช้ประโยชน์จากเทคโนโลยีในลักษณะที่มีประสิทธิภาพและมีจริยธรรม พระราชบัญญัติการโหลดไม่เพียง แต่จัดการกับข้อกังวลในปัจจุบันเท่านั้น แต่ยังเป็นแบบอย่างสำหรับการกำกับดูแลด้านเทคโนโลยีในอนาคตเพื่อให้มั่นใจว่าเมื่อ AI วิวัฒนาการการประยุกต์ใช้ภายในรัฐยังคงสอดคล้องกับคุณค่าของความเป็นธรรมความโปร่งใสและความรับผิดชอบ
พระราชบัญญัติดังกล่าวยังได้รับคำสั่งการประเมินช่องโหว่ความปลอดภัยทางไซเบอร์และความเสี่ยงด้านความเป็นส่วนตัวพร้อมกับการพัฒนามาตรการป้องกันเพื่อลดปัญหาที่ระบุไว้
การเติมเต็มพระราชบัญญัติการโหลดเป็นชุดของมาตรการทางกฎหมายผู้ว่าราชการ Hochul ลงนามในกฎหมายที่จัดการกับแง่มุมต่าง ๆ ของความเป็นส่วนตัวดิจิทัลความปลอดภัยและการคุ้มครองผู้บริโภค กฎหมายฉบับหนึ่งได้รับคำสั่งว่า บริษัท โซเชียลมีเดียแสดงข้อกำหนดในการให้บริการอย่างชัดเจนเพื่อแจ้งผู้ใช้และส่งรายงานเกี่ยวกับข้อกำหนดเหล่านี้ไปยังอัยการสูงสุดโดยมีบทลงโทษสำหรับการไม่ปฏิบัติตาม การเรียกเก็บเงินอีกประการหนึ่งช่วยเพิ่มความปลอดภัยสำหรับข้อมูลทางการแพทย์และการประกันภัยโดยมีวัตถุประสงค์เพื่อลดความเสี่ยงต่อการโจรกรรมข้อมูลประจำตัว
เพื่อปรับปรุงความปลอดภัยทางไซเบอร์ของรัฐบาลกฎหมายใหม่อีกฉบับกำหนดให้หน่วยงานของรัฐจัดหาสินค้าและบริการคอมพิวเตอร์ที่สอดคล้องกับสถาบันมาตรฐานและความปลอดภัยทางไซเบอร์ของชาติ นอกจากนี้ธุรกิจมีหน้าที่ต้องแจ้งให้ผู้ที่ได้รับผลกระทบจากการละเมิดข้อมูลภายใน 30 วันและเพื่อแจ้งให้กรมบริการทางการเงินทราบทันทีหากผู้อยู่อาศัยในนิวยอร์กได้รับผลกระทบ
มาตรการแยกต่างหากห้ามการใช้แพลตฟอร์มโซเชียลมีเดียสำหรับการเก็บหนี้ในขณะที่กฎระเบียบสำหรับบริการหาคู่ออนไลน์ได้รับการรัดกุมต้องมีการเปิดเผยและโปรโตคอลที่ชัดเจนยิ่งขึ้นเพื่อจัดการกับบัญชีที่ฉ้อโกง
หัวข้อบทความ
-------
