รัฐนิวยอร์กได้ก้าวไปข้างหน้าอย่างสำคัญเพื่อให้แน่ใจว่าการใช้ AI ของรัฐจะดำเนินการอย่างมีความรับผิดชอบ ที่เพิ่งประกาศใช้ร่างพระราชบัญญัติวุฒิสภา S7543Bซึ่งเป็นที่รู้จักในชื่อ Legislative Oversight of Automated Decision-Making in Government Act (LOADinG Act) ได้กำหนดกรอบการทำงานที่ครอบคลุมสำหรับการใช้ AI ของรัฐที่เน้นความโปร่งใส ความรับผิดชอบ และการคุ้มครองสิทธิส่วนบุคคล
ผู้ว่าการ Kathy Hochul ก็ลงนามในกฎหมายกแพ็คเกจกฎหมายที่เสริมสร้างการปกป้องข้อมูลส่วนบุคคลของผู้บริโภค Hochul กล่าวในแถลงการณ์ว่า “ชาวนิวยอร์กไม่ควรกังวลว่าข้อมูลส่วนบุคคลของตนจะถูกนำไปใช้ในทางที่ผิดหรือตกไปอยู่ในมือของคนผิด Hochul กล่าวว่าแพ็คเกจกฎหมายที่เธอลงนามนั้นถือเป็น “การดำเนินการที่กล้าหาญเพื่อให้บริษัทต่างๆ มีความรับผิดชอบ เสริมสร้างการคุ้มครอง และให้ความโปร่งใสและความปลอดภัยแก่ผู้บริโภคที่พวกเขาต้องการและสมควรได้รับ”
การประกาศใช้พระราชบัญญัติ LOADinG ทำให้นิวยอร์กเป็นผู้นำในการกำกับดูแลที่รับผิดชอบของ AI และระบบอัตโนมัติ ด้วยการจัดตั้งกลไกกำกับดูแลที่เข้มงวด รัฐมีเป้าหมายที่จะใช้ประโยชน์จากความก้าวหน้าทางเทคโนโลยี ในขณะเดียวกันก็ปกป้องสิทธิและความเป็นอยู่ที่ดีของผู้อยู่อาศัย
เนื่องจาก AI ยังคงแทรกซึมอยู่ในแทบทุกแง่มุมของการบริหารราชการ หลักการที่ระบุไว้ในพระราชบัญญัติ LOADinG จึงสามารถใช้เป็นแบบอย่างสำหรับรัฐอื่นๆ ที่ต้องการสร้างสมดุลระหว่างนวัตกรรมกับความรับผิดชอบทางจริยธรรม พระราชบัญญัติดังกล่าวเน้นไปที่การกำกับดูแลของมนุษย์ การประเมินผลกระทบอย่างสม่ำเสมอ และความโปร่งใส สะท้อนให้เห็นถึงแนวทางที่ครอบคลุมในการบูรณาการเทคโนโลยีเข้ากับการดำเนินงานของรัฐบาล โดยไม่กระทบต่อสิทธิส่วนบุคคล
วัตถุประสงค์หลักของพระราชบัญญัติ LOADinG คือเพื่อควบคุมการใช้งานระบบการตัดสินใจอัตโนมัติโดยหน่วยงานของรัฐ ระบบเหล่านี้ ซึ่งหมายถึงซอฟต์แวร์ที่ใช้อัลกอริธึม แบบจำลองการคำนวณ หรือเทคนิค AI เพื่อสร้างหรือช่วยในการตัดสินใจ มีศักยภาพที่จะส่งผลกระทบต่อสิทธิประโยชน์ด้านการช่วยเหลือสาธารณะ เสรีภาพ ความปลอดภัย และสวัสดิการ เมื่อตระหนักถึงสิ่งนี้ กฎหมายจึงกำหนดให้หน่วยงานของรัฐที่ใช้เทคโนโลยีดังกล่าวต้องตรวจสอบให้แน่ใจว่าอยู่ภายใต้ "การกำกับดูแลของมนุษย์ที่มีความหมาย" อย่างต่อเนื่องและ กฎหมายใหม่นี้มีจุดมุ่งหมายเพื่อป้องกันการตัดสินใจโดยอัตโนมัติโดยไม่ได้รับการตรวจสอบ ซึ่งอาจส่งผลเสียต่อสิทธิส่วนบุคคล
พระราชบัญญัติ LOADinG “กำหนดให้ต้องเปิดเผยระบบการตัดสินใจอัตโนมัติที่ใช้งานอยู่แล้ว ห้ามมิให้หน่วยงานของรัฐหรือหน่วยงานของรัฐใช้ระบบการตัดสินใจอัตโนมัติโดยไม่ได้รับอนุญาตโดยไม่ได้รับการตรวจสอบจากมนุษย์อย่างมีความหมาย และเมื่อ ได้รับอนุญาต กำหนดให้มีการเผยแพร่การประเมินผลกระทบ”
รากฐานสำคัญของกฎหมายใหม่คือข้อกำหนดสำหรับหน่วยงานของรัฐที่จะต้องดำเนินการประเมินผลกระทบอย่างละเอียดก่อนที่จะนำระบบการตัดสินใจอัตโนมัติไปใช้ หน่วยงานของรัฐที่วางแผนจะใช้ระบบการตัดสินใจอัตโนมัติ ตามที่ได้รับอนุญาตภายใต้มาตรา 402 ของกฎหมาย จะต้องตรวจสอบให้แน่ใจว่าระบบเหล่านี้อยู่ภายใต้การควบคุมดูแลของมนุษย์ที่สม่ำเสมอและมีความหมาย
ก่อนที่จะปรับใช้ระบบดังกล่าว การประเมินผลกระทบจะต้องเสร็จสิ้นก่อนและได้รับการอนุมัติโดยบุคคลที่รับผิดชอบในการรับรองการกำกับดูแลที่เหมาะสมและการประยุกต์ใช้เทคโนโลยีอย่างถูกกฎหมาย หลังจากการประเมินเบื้องต้น หน่วยงานต่างๆ จะต้องดำเนินการประเมินผลกระทบใหม่อย่างน้อยทุกๆ สองปี หากมีการเปลี่ยนแปลงที่มีนัยสำคัญต่อระบบซึ่งอาจเปลี่ยนแปลงผลลัพธ์หรือผลกระทบได้ จะต้องดำเนินการประเมินใหม่ การประเมินเหล่านี้ทำหน้าที่เป็นการทบทวนโดยละเอียดเกี่ยวกับวิธีการทำงานของระบบและผลกระทบที่อาจเกิดขึ้น
การประเมินผลกระทบจะต้องมีคำอธิบายที่ชัดเจนเกี่ยวกับวัตถุประสงค์ของระบบ การประเมินความสามารถของระบบในการบรรลุเป้าหมายอย่างมีประสิทธิผล และคำอธิบายโดยละเอียดเกี่ยวกับการออกแบบและพัฒนาระบบ การประเมินยังต้องรวมบทสรุปของอัลกอริธึม วิธีการคำนวณ และเครื่องมือ AI ที่ใช้ ตลอดจนข้อมูลเกี่ยวกับข้อมูลและกระบวนการที่เกี่ยวข้องกับการฝึกอบรมและการออกแบบระบบ
นอกจากนี้หน่วยงานของรัฐจะต้องดำเนินการทดสอบเพื่อให้ระบบทำงานได้อย่างถูกต้อง ยุติธรรม และไม่มีอคติ พวกเขายังต้องประเมินด้วยว่าระบบสร้างผลลัพธ์ที่เลือกปฏิบัติโดยพิจารณาจากปัจจัยต่างๆ เช่น เชื้อชาติ ชาติพันธุ์ ศาสนา เพศ รสนิยมทางเพศ ความพิการ หรือลักษณะที่ได้รับการคุ้มครองอื่นๆ หรือไม่ หากมีการระบุความแตกต่างในผลลัพธ์ การประเมินจะต้องร่างกลยุทธ์เพื่อแก้ไขและบรรเทาปัญหาเหล่านี้ กระบวนการที่เข้มงวดนี้มีจุดมุ่งหมายเพื่อให้แน่ใจว่าระบบการตัดสินใจแบบอัตโนมัติได้รับการปฏิบัติด้วยความรับผิดชอบ มีจริยธรรม และในลักษณะที่ยึดถือความยุติธรรมและความเท่าเทียมกัน
เพื่อรักษาการกำกับดูแลอย่างต่อเนื่อง กฎหมายกำหนดให้มีการประเมินผลกระทบอย่างน้อยหนึ่งครั้งทุกๆ สองปี นอกจากนี้ การปรับเปลี่ยนที่สำคัญใดๆ ในระบบที่มีอยู่ซึ่งอาจเปลี่ยนแปลงผลลัพธ์ได้จำเป็นต้องมีการประเมินใหม่ กระบวนการประเมินอย่างต่อเนื่องนี้มีจุดมุ่งหมายเพื่อให้แน่ใจว่าเมื่อเทคโนโลยีพัฒนาไป การใช้งานยังคงสอดคล้องกับมาตรฐานทางจริยธรรมและผลประโยชน์สาธารณะ
ความโปร่งใสยังได้รับการเสริมด้วยข้อกำหนดให้ส่งการประเมินผลกระทบแต่ละครั้งไปยังผู้ว่าการ ประธานวุฒิสภาชั่วคราว และประธานสภา อย่างน้อยสามสิบวันก่อนการนำระบบไปใช้ บทบัญญัตินี้อำนวยความสะดวกในการกำกับดูแลด้านกฎหมายและช่วยให้มีการตัดสินใจอย่างมีข้อมูลในระดับสูงสุดของรัฐบาลของรัฐ
พระราชบัญญัติดังกล่าวยังกล่าวถึงกระบวนการจัดซื้อจัดจ้างโดยห้ามหน่วยงานของรัฐรับบริการหรือระบบที่ใช้การตัดสินใจแบบอัตโนมัติโดยไม่รับประกันการตรวจสอบโดยมนุษย์อย่างมีความหมาย มาตรการนี้ป้องกันการนำเทคโนโลยีที่อาจเป็นอันตรายมาใช้และสนับสนุนการเลือกระบบที่เป็นไปตามมาตรฐานทางจริยธรรมและกฎหมายของรัฐ
ภายใต้พระราชบัญญัตินี้ “การตรวจสอบโดยมนุษย์อย่างมีความหมาย” หมายถึงการมีส่วนร่วมอย่างแข็งขันของบุคคลตั้งแต่หนึ่งคนขึ้นไปในการดูแลและควบคุมกระบวนการตัดสินใจแบบอัตโนมัติ บุคคลเหล่านี้จะต้องมีความรู้เกี่ยวกับความเสี่ยง ข้อจำกัด และการทำงานของระบบ และต้องได้รับการฝึกอบรมเกี่ยวกับการใช้งาน พวกเขาได้รับมอบอำนาจให้แทรกแซงกระบวนการตัดสินใจ และมีอำนาจในการอนุมัติ ปฏิเสธ หรือแก้ไขการตัดสินใจใดๆ ที่เสนอหรือทำโดยระบบอัตโนมัติ สิ่งนี้ทำให้แน่ใจได้ว่าวิจารณญาณของมนุษย์ยังคงเป็นศูนย์กลางในการตัดสินใจที่ได้รับอิทธิพลจากเทคโนโลยีดังกล่าว
ในกรณีที่การประเมินผลกระทบพบว่าระบบการตัดสินใจอัตโนมัติก่อให้เกิดการเลือกปฏิบัติหรือผลลัพธ์ที่มีอคติ กฎหมายจะกำหนดให้หน่วยงานของรัฐยุติการใช้งานทันที การดำเนินการขั้นเด็ดขาดนี้ตอกย้ำความมุ่งมั่นของรัฐในการป้องกันอันตรายและสนับสนุนหลักการของความยุติธรรมและความเท่าเทียมกัน
วุฒิสภา Bill S7543B แสดงให้เห็นถึงแนวทางเชิงรุกและดูเหมือนว่าจะมีความคิดมาอย่างดีต่อการใช้ AI อย่างมีความรับผิดชอบโดยรัฐบาล ด้วยการกำหนดแนวปฏิบัติและกลไกการกำกับดูแลที่ชัดเจน นิวยอร์กกำลังแสดงให้เห็นถึงความมุ่งมั่นในการใช้ประโยชน์จากเทคโนโลยีในลักษณะที่มีประสิทธิภาพและถูกต้องตามหลักจริยธรรม พระราชบัญญัติ LOADinG ไม่เพียงแต่จัดการกับข้อกังวลในปัจจุบันเท่านั้น แต่ยังกำหนดแบบอย่างสำหรับการกำกับดูแลทางเทคโนโลยีในอนาคต เพื่อให้มั่นใจว่าในขณะที่ AI พัฒนาไป การประยุกต์ใช้งานภายในรัฐยังคงสอดคล้องกับคุณค่าของความยุติธรรม ความโปร่งใส และความรับผิดชอบ
พระราชบัญญัตินี้ยังกำหนดให้มีการประเมินช่องโหว่ด้านความปลอดภัยทางไซเบอร์และความเสี่ยงด้านความเป็นส่วนตัว พร้อมกับการพัฒนาระบบป้องกันเพื่อบรรเทาปัญหาที่ระบุ
การเสริมพระราชบัญญัติ LOADinG Act คือชุดมาตรการทางกฎหมายที่ผู้ว่าการ Hochul ลงนามในกฎหมายที่กล่าวถึงแง่มุมต่างๆ ของความเป็นส่วนตัวดิจิทัล ความปลอดภัย และการคุ้มครองผู้บริโภค กฎหมายฉบับหนึ่งกำหนดให้บริษัทโซเชียลมีเดียแสดงข้อกำหนดในการให้บริการอย่างชัดเจนเพื่อแจ้งให้ผู้ใช้ทราบและส่งรายงานเกี่ยวกับข้อกำหนดเหล่านี้ไปยังอัยการสูงสุด โดยมีบทลงโทษสำหรับการไม่ปฏิบัติตาม ร่างกฎหมายอีกฉบับหนึ่งเสริมความแข็งแกร่งให้กับการปกป้องข้อมูลทางการแพทย์และการประกันภัย โดยมีเป้าหมายเพื่อลดความเสี่ยงในการโจรกรรมข้อมูลส่วนบุคคล
เพื่อเพิ่มความปลอดภัยทางไซเบอร์ของรัฐบาล กฎหมายใหม่อีกฉบับกำหนดให้หน่วยงานของรัฐต้องจัดหาสินค้าและบริการด้านคอมพิวเตอร์ที่สอดคล้องกับกรอบความปลอดภัยทางไซเบอร์ของสถาบันมาตรฐานและเทคโนโลยีแห่งชาติ นอกจากนี้ ธุรกิจต่างๆ มีหน้าที่ต้องแจ้งให้ฝ่ายที่ได้รับผลกระทบทราบถึงการละเมิดข้อมูลภายใน 30 วัน และแจ้งให้ Department of Financial Services ทราบโดยทันทีหากชาวนิวยอร์กได้รับผลกระทบ
มาตรการแยกต่างหากห้ามการใช้แพลตฟอร์มโซเชียลมีเดียในการทวงหนี้ ในขณะที่กฎระเบียบสำหรับบริการหาคู่ออนไลน์มีความเข้มงวดมากขึ้น โดยกำหนดให้มีการเปิดเผยข้อมูลและระเบียบปฏิบัติที่ชัดเจนยิ่งขึ้นเพื่อจัดการกับบัญชีที่ฉ้อโกง
หัวข้อบทความ
-------
