DHS เปิดตัว 'Playbook' สำหรับการปรับใช้ AI โดยภาครัฐ

กระทรวงความมั่นคงแห่งมาตุภูมิ (DHS) เพิ่งเผยแพร่Playbook สำหรับการปรับใช้ปัญญาประดิษฐ์ภาครัฐร่างกรอบการทำงานที่ครอบคลุมสำหรับการบูรณาการปัญญาประดิษฐ์ (GenAI) อย่างมีความรับผิดชอบเข้ากับการดำเนินงานของภาครัฐ รายงานจัดลำดับความสำคัญการพิจารณาที่สำคัญ เช่น ความเป็นส่วนตัว ความปลอดภัย สิทธิพลเมือง ความโปร่งใส และการรับรองความถูกต้องออนไลน์

DHS กล่าวว่า "คู่มือกลยุทธ์นี้ได้รับการออกแบบมาเพื่อตอบสนององค์กรไม่ว่าพวกเขาจะอยู่ที่ใดก็ตามในการเดินทางเพื่อทำความเข้าใจและนำเทคโนโลยี AI มาใช้ในงานของพวกเขา องค์กรภาครัฐใดๆ สามารถเริ่มต้นได้ตั้งแต่วันนี้เพื่อประเมินและรวบรวมทรัพยากร ปลูกฝังการยอมรับภายใน และวางรากฐานสำหรับการปรับใช้ GenAI อย่างมีประสิทธิภาพ”

“การเปิดตัว Playbook นี้ถือเป็นก้าวสำคัญในความพยายามของเราในการบูรณาการการใช้งาน AI ที่ปลอดภัยอย่างมีความรับผิดชอบและมีประสิทธิภาพภายในภาครัฐ” Eric Hysen ประธานเจ้าหน้าที่ฝ่ายข้อมูลของ DHS กล่าว “ด้วยการแบ่งปันประสบการณ์และแนวทางปฏิบัติที่ดีที่สุดของเรา เรามุ่งมั่นที่จะเพิ่มขีดความสามารถให้หน่วยงานภาครัฐอื่นๆ ใช้ประโยชน์จาก AI ในลักษณะที่ปรับปรุงภารกิจของพวกเขา ในขณะเดียวกันก็ปกป้องสิทธิและความเป็นส่วนตัวของบุคคลที่พวกเขาให้บริการ”

DHS กล่าวว่า "ความก้าวหน้าอย่างรวดเร็วและการค้าขายของ GenAI นำเสนอทั้งโอกาสและความท้าทายที่สำคัญสำหรับ [DHS] และองค์กรภาครัฐในทุกระดับ" และตั้งข้อสังเกตว่า "เพื่อให้สอดคล้องกับคำสั่งผู้บริหารที่ 14110 ซึ่งเน้นย้ำถึงการนำเทคโนโลยี AI มาใช้อย่างมีความรับผิดชอบ [มัน] ได้ริเริ่มโครงการนำร่อง GenAI ในเชิงรุกเพื่อสำรวจศักยภาพของพวกเขาในการเสริมสร้างขีดความสามารถภารกิจของเรา”

“ความคิดริเริ่มนำร่องเหล่านี้ได้ให้ข้อมูลเชิงลึกที่มีคุณค่าในการใช้งานจริงของ GenAI ภายในการดำเนินงานของเรา” DHS กล่าว และ “ได้เน้นย้ำถึงความสำคัญของแนวทางที่วัดผลและรอบคอบในการบูรณาการ AI เพื่อให้มั่นใจว่าการปรับใช้ของเรามีความรับผิดชอบ เชื่อถือได้ และมีประสิทธิภาพในขณะที่ การปกป้องความเป็นส่วนตัว สิทธิพลเมือง และเสรีภาพของพลเมือง”

เมื่อต้นปีที่ผ่านมา DHS ได้เปิดตัวไฟล์แผนงานปัญญาประดิษฐ์อธิบายถึงแผนการที่จะในขณะเดียวกันก็ทำให้มั่นใจได้ว่าสิทธิความเป็นส่วนตัว สิทธิพลเมือง และเสรีภาพของพลเมืองส่วนบุคคลจะได้รับการคุ้มครอง

ธีมหลักประการหนึ่งของ Playbook คือการปกป้องความเป็นส่วนตัวของแต่ละบุคคลในระหว่างการปรับใช้ GenAI DHS เน้นการควบคุมการจัดการข้อมูลที่ละเอียดอ่อนอย่างเข้มงวด โดยเฉพาะอย่างยิ่งในสถานการณ์ที่ GenAI เชื่อมต่อกับข้อมูลสาธารณะหรือข้อมูลส่วนบุคคล เพื่อลดความเสี่ยง DHS ต้องการแนวทางที่ชัดเจนซึ่งกำหนดว่าข้อมูลใดที่สามารถแบ่งปันกับระบบ GenAI และจำกัดการใช้งานโดยไม่ได้รับอนุญาต

การประเมินผลกระทบด้านความเป็นส่วนตัวเป็นส่วนสำคัญของกรอบการทำงานนี้ เพื่อให้มั่นใจว่าการใช้งาน GenAI ทั้งหมดสอดคล้องกับกฎหมายและข้อบังคับด้านความเป็นส่วนตัวของรัฐบาลกลาง DHS กล่าว นอกจากนี้ Playbook ยังกำหนดให้มีการกำกับดูแลของมนุษย์ในการประเมินผลลัพธ์ของ GenAI ซึ่งตอกย้ำหลักการที่ว่าเครื่องมือเหล่านี้จะต้องเสริมการตัดสินใจของมนุษย์แทนที่จะแทนที่ทั้งหมด ด้วยการฝังผู้เชี่ยวชาญด้านความเป็นส่วนตัวไว้ในทีมโครงการนำร่องระบบ DHS ได้สร้างวัฒนธรรมของการจัดการความเป็นส่วนตัวเชิงรุกที่ช่วยลดความเสี่ยง เช่น การละเมิดข้อมูลหรือการเปิดเผยข้อมูลที่ละเอียดอ่อนโดยไม่ได้ตั้งใจ

Playbook ยังเน้นย้ำถึงความจำเป็นของมาตรการรักษาความปลอดภัยทางไซเบอร์ที่แข็งแกร่งเมื่อใช้ระบบ GenAI ด้วยตระหนักถึงช่องโหว่ที่อาจเกิดขึ้นในระบบ AI DHS ได้พัฒนาแนวปฏิบัติด้านความปลอดภัยที่ปรับแต่งสำหรับโครงสร้างพื้นฐานที่สำคัญและแอปพลิเคชันภาครัฐ มาตรการเหล่านี้รวมถึงการประเมินความเสี่ยงที่ครอบคลุม การทดสอบระบบเพื่อความแข็งแกร่งของฝ่ายตรงข้าม และการปฏิบัติตามโปรโตคอลความปลอดภัยทางไซเบอร์ที่มีอยู่อย่างเข้มงวด

การใช้งาน GenAI จะต้องบูรณาการเข้ากับสภาพแวดล้อมไอทีที่ปลอดภัย ซึ่งมักต้องมีการกำหนดค่าแบบกำหนดเอง หรือใช้โมเดลพิเศษ เช่น ระบบ AI แบบเปิดสำหรับการทำงานออฟไลน์ DHS กล่าวว่าความสามารถในการปรับตัวนี้มีความสำคัญอย่างยิ่งสำหรับการใช้งานที่มีความละเอียดอ่อน เช่น การสืบสวนของหน่วยงานบังคับใช้กฎหมาย หรือบริการตรวจคนเข้าเมือง ซึ่งความปลอดภัยของข้อมูลเป็นสิ่งสำคัญยิ่ง Playbook ยังแนะนำให้มีการตรวจสอบเครื่องมือ GenAI อย่างต่อเนื่องเพื่อให้สามารถตรวจจับและบรรเทาภัยคุกคามด้านความปลอดภัยได้ตั้งแต่เนิ่นๆ

การรับรองว่าการนำ GenAI ไปใช้อย่างมีจริยธรรมถือเป็นรากฐานสำคัญของกรอบการทำงานของ DHS Playbook เน้นย้ำถึงความสำคัญของการใช้ AI ให้สอดคล้องกับสิทธิตามรัฐธรรมนูญ เสรีภาพของพลเมือง และกฎหมายต่อต้านการเลือกปฏิบัติ GenAI จะต้องไม่ขยายเวลาหรือทำให้อคติรุนแรงขึ้น ไม่ว่าจะในข้อมูลการฝึกอบรมหรือผลลัพธ์ก็ตาม หลักการนี้มีความสำคัญอย่างยิ่งในด้านต่างๆ เช่น กระบวนการตรวจคนเข้าเมือง ซึ่งอคติของอัลกอริทึมอาจส่งผลกระทบที่สำคัญต่อแต่ละบุคคล

เพื่อปกป้องสิทธิพลเมือง DHS กล่าวว่าได้ฝังผู้เชี่ยวชาญด้านการกำกับดูแล รวมถึงผู้เชี่ยวชาญด้านเสรีภาพของพลเมือง ไว้ในทุกขั้นตอนของกระบวนการนำร่อง แนวทางการทำงานร่วมกันนี้ช่วยให้สามารถระบุความเสี่ยงแบบเรียลไทม์และการดำเนินการแก้ไข ส่งเสริมความไว้วางใจในระบบ GenAI ตัวอย่างเช่น ข้อกำหนดสำหรับความโปร่งใสและความสามารถในการอธิบายในเครื่องมือ GenAI ช่วยให้มั่นใจได้ว่าผู้มีส่วนได้ส่วนเสียทั้งหมด รวมถึงสาธารณชน สามารถเข้าใจวิธีการตัดสินใจได้

ความโปร่งใสถือเป็นหัวใจสำคัญในการสร้างความไว้วางใจในการปรับใช้ GenAI DHS กล่าวว่าบริษัทมีความมุ่งมั่นที่จะแบ่งปันการใช้งาน GenAI ที่ไม่ละเอียดอ่อนอย่างเปิดเผยผ่าน AI Use Case Inventory ซึ่งเป็นทรัพยากรที่ออกแบบมาเพื่อแจ้งให้สาธารณชนและผู้มีส่วนได้ส่วนเสียอื่น ๆ ทราบเกี่ยวกับการใช้งาน AI ทั่วทั้งแผนก โครงการริเริ่มนี้สอดคล้องกับคำสั่งของรัฐบาลที่กว้างขึ้นสำหรับความรับผิดชอบในระบบ AI

Playbook ยังเน้นย้ำถึงความสำคัญของผลตอบรับซ้ำและการทดสอบการใช้งานเพื่อปรับแต่งเครื่องมือ GenAI การมีส่วนร่วมของผู้มีส่วนได้ส่วนเสียทั้งภายในและภายนอกเป็นหัวข้อที่เกิดขึ้นเป็นประจำ ด้วยการขอข้อมูลจากผู้ใช้ หน่วยงานกำกับดูแล และสาธารณะ DHS กล่าวว่าได้สร้างกลไกเพื่อปรับปรุงความโปร่งใสและการใช้งานของระบบ ในขณะเดียวกันก็จัดการกับข้อกังวลที่เกิดขึ้นใหม่

แม้ว่าจะไม่ใช่จุดสนใจหลัก แต่ Playbook ยังกล่าวถึงความท้าทายในการรับรองความถูกต้องแบบออนไลน์ภายในการปรับใช้ GenAI เพิ่มเติม การตรวจสอบให้แน่ใจว่าผู้ใช้และระบบที่โต้ตอบกับ GenAI ได้รับการตรวจสอบสิทธิ์อย่างเหมาะสมถือเป็นมาตรการรักษาความปลอดภัยขั้นพื้นฐาน DHS เสนอการรวม GenAI เข้ากับเฟรมเวิร์กการรับรองความถูกต้องที่มีอยู่ เช่น การรับรองความถูกต้องแบบหลายปัจจัยและการตรวจสอบตัวตนดิจิทัล เพื่อเสริมความสมบูรณ์ของระบบ การป้องกันเหล่านี้มีความสำคัญอย่างยิ่งในการใช้งานที่เกี่ยวข้องกับการเข้าถึงข้อมูลที่เป็นความลับหรือสภาพแวดล้อมการตัดสินใจที่มีเดิมพันสูง

Playbook กำหนดการใช้ GenAI อย่างมีความรับผิดชอบในการปรับระบบ AI ให้สอดคล้องกับคุณค่าทางประชาธิปไตยและเป้าหมายทางสังคม ความน่าเชื่อถือเกิดขึ้นได้จากคุณลักษณะต่างๆ เช่น ความน่าเชื่อถือ ความปลอดภัย ความโปร่งใส และความยุติธรรม เพื่อนำหลักการเหล่านี้ไปใช้ DHS ได้กำหนดแนวปฏิบัติที่ครอบคลุมสำหรับการประเมินระบบ GenAI รวมถึงความแม่นยำ การตีความได้ และผลกระทบที่อาจเกิดขึ้นต่อสิทธิพลเมือง

DHS ยังได้พัฒนาโปรแกรมการฝึกอบรมเพื่อให้แน่ใจว่าพนักงานมีความรอบรู้ในความสามารถและข้อจำกัดของ GenAI โปรแกรมเหล่านี้มีจุดมุ่งหมายเพื่อปลูกฝังความเข้าใจร่วมกันเกี่ยวกับแนวทางปฏิบัติด้าน AI ที่มีความรับผิดชอบทั่วทั้งองค์กร DHS แนวทางนี้ไม่เพียงแต่ช่วยลดความเสี่ยงเท่านั้น แต่ยังส่งเสริมวัฒนธรรมแห่งนวัตกรรมด้านจริยธรรมอีกด้วย DHS กล่าว

Playbook ยังสนับสนุนรูปแบบการกำกับดูแลที่มีโครงสร้างซึ่งรวมเอาผู้มีส่วนได้ส่วนเสียที่หลากหลาย ตั้งแต่ผู้เชี่ยวชาญทางเทคนิคไปจนถึงผู้เชี่ยวชาญด้านเสรีภาพของพลเมือง ด้วยการสร้างทีมงานข้ามสายงาน DHS กล่าวว่าได้รับประกันว่าการใช้งาน GenAI จะได้รับประโยชน์จากความเชี่ยวชาญและมุมมองที่หลากหลาย โครงสร้างการกำกับดูแลยังจัดให้มีกรอบการทำงานในการจัดการกับความท้าทายด้านจริยธรรม กฎหมาย และการปฏิบัติงานที่เกิดจาก GenAI

ที่Playbook ของ DHS สำหรับการใช้งาน GenAI ในภาครัฐแสดงถึงก้าวสำคัญในการบูรณาการ AI เข้ากับการดำเนินงานของรัฐบาลอย่างมีความรับผิดชอบ ด้วยการจัดการกับความเป็นส่วนตัว ความปลอดภัย สิทธิพลเมือง ความโปร่งใส และการรับรองความถูกต้องแบบออนไลน์ กรอบการทำงานนี้ทำให้มั่นใจได้ว่าการปรับใช้ GenAI มีทั้งประสิทธิผลและสอดคล้องกับค่านิยมทางสังคม

แนวทางแบบองค์รวมของ Playbook ไม่เพียงแต่ช่วยลดความเสี่ยงเท่านั้น แต่ยังกำหนดมาตรฐานวิธีที่องค์กรภาครัฐสามารถควบคุมศักยภาพในการเปลี่ยนแปลงของ AI อย่างมีความรับผิดชอบและมีจริยธรรม ในขณะที่ DHS ยังคงปรับปรุงกลยุทธ์อย่างต่อเนื่อง Playbook ของบริษัททำหน้าที่เป็นแนวทางพื้นฐานสำหรับการพัฒนา AI ที่น่าเชื่อถือในการให้บริการเพื่อสาธารณประโยชน์

หัวข้อบทความ

------