ในขณะที่กระทรวงความมั่นคงแห่งมาตุภูมิของสหรัฐอเมริกา (DHS) กำลังพัฒนานโยบายและขั้นตอนในการจัดการกับความเสี่ยงด้านอคติจากเทคโนโลยีที่ใช้ AIการตรวจสอบโดยสำนักงานความรับผิดชอบของรัฐบาล (GAO) พบว่ากรมไม่มีนโยบายหรือขั้นตอนปฏิบัติ “ในการประเมินความเสี่ยงด้านอคติจากการใช้เทคโนโลยีการตรวจจับ การสังเกต และการติดตามทั้งหมด” ที่ถูกนำไปใช้ทั่วทั้งหน่วยงานที่เป็นส่วนประกอบ
GAO ยังพบอีกว่า แม้ว่าหน่วยงานบังคับใช้กฎหมายของ DHS อาจขอคำแนะนำจากสำนักงานเพื่อสิทธิพลเมืองและเสรีภาพของพลเมือง (CRCL) ของ DHS เกี่ยวกับประเด็นอคติที่เกี่ยวข้องกับการใช้เทคโนโลยี … แต่ก็ไม่มีข้อกำหนดให้ทำเช่นนั้น ด้วยเหตุนี้ ระดับการตรวจสอบเทคโนโลยีการตรวจจับ การสังเกต และการเฝ้าติดตามของ CRCL จึงแตกต่างกันไป”
“ด้วยการพัฒนานโยบายและขั้นตอนในการประเมินและจัดการกับความเสี่ยงของอคติที่เกิดจากการใช้เทคโนโลยีการตรวจจับ การสังเกต และการติดตามของหน่วยงานบังคับใช้กฎหมายของ DHS CRCL สามารถช่วยให้แน่ใจว่าเทคโนโลยีเหล่านี้จะไม่ละเมิดสิทธิพลเมืองและเสรีภาพของพลเมืองด้วยการแนะนำอคติ ” เกากล่าว
จากข้อมูลของ GAO ปัญหาเหล่านี้เกิดขึ้นตั้งแต่เดือนกันยายน 2023 เมื่อรายงานว่า DHS และกระทรวงยุติธรรม “สามารถดำเนินการได้มากกว่านี้เพื่อให้แน่ใจว่าเป็นไปตามข้อกำหนดด้านการฝึกอบรมและความเป็นส่วนตัว ในเวลานั้น GAO ได้ให้คำแนะนำ 10 ประการ ซึ่งรวมถึงหน่วยงานตรวจคนเข้าเมืองและการบังคับใช้กฎหมายศุลกากร (ICE) จัดทำและใช้กระบวนการเพื่อตรวจสอบเป็นระยะ ๆ ว่าพนักงานที่ใช้บริการจดจำใบหน้าเพื่อสนับสนุนการสืบสวนคดีอาชญากรรมได้ผ่านข้อกำหนดการฝึกอบรมแล้วหรือไม่”
เพื่อดำเนินภารกิจในการปกป้องประเทศ DHS ได้หันมาใช้เทคโนโลยีการตรวจจับ การสังเกต และการตรวจสอบที่ล้ำสมัยมากขึ้น ตั้งแต่เครื่องอ่านป้ายทะเบียนอัตโนมัติไปจนถึงระบบจดจำใบหน้าที่ขับเคลื่อนด้วย AI ซึ่งขยายขีดความสามารถในการเฝ้าระวังของ DHS อย่างมีนัยสำคัญ แต่ดังที่การตรวจสอบของ GAO เปิดเผย คลังแสงทางเทคโนโลยีนี้มีผลกระทบอย่างลึกซึ้งต่อความเป็นส่วนตัวและความเสี่ยงของการมีอคติ ทำให้เกิดจุดตัดที่เต็มไปด้วยความมั่นคงและเสรีภาพของพลเมือง
การใช้เทคโนโลยีกล้องวงจรปิดมากกว่า 20 ประเภทของ DHS ในพื้นที่สาธารณะแสดงถึงการขยายขอบเขตการสังเกตการณ์อย่างมาก เครื่องมือเหล่านี้จำนวนมากทำงานโดยไม่ต้องมีหมายจับ โดยใช้ประโยชน์จากสมมติฐานที่ว่าบุคคลในพื้นที่สาธารณะไม่สามารถคาดหวังความเป็นส่วนตัวได้อย่างสมเหตุสมผล ตัวอย่างเช่น เครื่องอ่านป้ายทะเบียนแบบอัตโนมัติและกล้องติดเสา มักจะติดตั้งในที่ที่มองเห็นได้หรือซ่อนไว้บนเสาไฟฟ้า จะบันทึกข้อมูลอย่างต่อเนื่อง รวมถึงข้อมูลป้ายทะเบียนและภาพวิดีโอความละเอียดสูง นอกจากนี้ ซอฟต์แวร์วิเคราะห์ ซึ่งบางซอฟต์แวร์ขับเคลื่อนโดย AI ยังช่วยเพิ่มความสามารถในการตรวจจับ ติดตาม และวิเคราะห์รูปแบบของกิจกรรมอีกด้วย
ระบบดังกล่าว แม้จะมีคุณค่าอย่างยิ่งในการสืบสวนคดีอาญาและปฏิบัติการรักษาความปลอดภัยชายแดน แต่ก็ก่อให้เกิดความกังวลอย่างมากเกี่ยวกับความเป็นส่วนตัวของแต่ละบุคคล ความสามารถของเทคโนโลยีเหล่านี้ในการรวบรวมและวิเคราะห์ข้อมูลส่วนบุคคล (PII) ตั้งแต่ป้ายทะเบียนไปจนถึงข้อมูลไบโอเมตริกซ์ เพิ่มความเข้มงวดในสถานะการเฝ้าระวังซึ่งมีการติดตามการเคลื่อนไหวและความสัมพันธ์ของบุคคลอย่างพิถีพิถัน
การตรวจสอบของ GAO เน้นย้ำว่า DHS ไม่ได้ใช้นโยบายที่เกี่ยวข้องกับการปกป้องความเป็นส่วนตัวที่สำคัญในเทคโนโลยีต่างๆ ของตนอย่างสม่ำเสมอ GAO พบว่าหลักการพื้นฐานของความเป็นส่วนตัว เช่น การลดขนาดข้อมูล ข้อกำหนดเฉพาะวัตถุประสงค์ ความปลอดภัยของข้อมูล ขีดจำกัดการเก็บรักษา และความรับผิดชอบ ถูกนำมาใช้อย่างไม่สอดคล้องกันในหน่วยงานองค์ประกอบของ DHS เช่น ICE, Customs and Border Protection (CBP) และหน่วยสืบราชการลับ
ตัวอย่างเช่น แม้ว่านโยบายของ CBP สำหรับกล้องที่สวมใส่แบบไม่ปกปิดจะรวมเอาการคุ้มครองความเป็นส่วนตัวทั้งหกประการที่ระบุไว้ในแนวปฏิบัติของ DHS แต่นโยบายสำหรับกล้องแบบเสาไม่ได้ระบุไว้เลย ในทำนองเดียวกัน นโยบายของ ICE สำหรับเครื่องอ่านป้ายทะเบียนอัตโนมัตินั้นครอบคลุมการปกป้องความเป็นส่วนตัวอย่างเคร่งครัด แต่นโยบายสำหรับกล้องโพลและเทคโนโลยีอื่นๆ นั้นมีความครอบคลุมน้อยกว่า
GAO กล่าวว่า “DHS ดำเนินการประเมินผลกระทบด้านความเป็นส่วนตัวเพื่อให้ข้อมูลแก่สาธารณชนเกี่ยวกับวิธีการที่หน่วยงานวางแผนจัดการกับการคุ้มครองความเป็นส่วนตัวที่สำคัญ” แต่นโยบาย … มีความจำเป็นเพื่อชี้แนะพนักงานว่าพวกเขาจะนำการคุ้มครองความเป็นส่วนตัวเหล่านี้ไปใช้อย่างไรเมื่อใช้เทคโนโลยีเฉพาะ ด้วยการกำหนดให้นโยบายสำหรับการใช้เทคโนโลยีแต่ละอย่างกล่าวถึงการคุ้มครองความเป็นส่วนตัวที่สำคัญ หน่วยงานของ DHS จะมีการรับประกันที่ดีขึ้นว่ามีการใช้การคุ้มครองความเป็นส่วนตัว และผู้ใช้เทคโนโลยีตระหนักถึงความรับผิดชอบของตนในการปกป้องความเป็นส่วนตัว”
หากไม่มีคำสั่งที่ชัดเจน GAO กล่าวว่าบุคลากรของหน่วยงานอาจใช้ข้อมูลในทางที่ผิดโดยไม่ได้ตั้งใจหรือล้มเหลวในการดำเนินการป้องกันที่จำเป็น ส่งผลให้บุคคลเสี่ยงต่อการถูกสอดส่องโดยไม่ได้รับอนุญาตและการละเมิดข้อมูล นอกจากนี้ การพึ่งพาการประเมินผลกระทบด้านความเป็นส่วนตัว (PIA) เพื่อแจ้งให้พนักงานทราบเกี่ยวกับภาระผูกพันด้านความเป็นส่วนตัวได้รับการพิสูจน์แล้วว่าไม่เพียงพอ GAO กล่าว โดยสังเกตว่า PIA แม้จะเป็นเครื่องมือโปร่งใสที่สำคัญ แต่ก็มักจะขาดรายละเอียดในการปฏิบัติงาน และไม่ได้ปรับให้เหมาะกับความแตกต่างเฉพาะของเทคโนโลยีแต่ละอย่าง
สิ่งที่ท้าทายเหล่านี้รวมกันคือปรากฏการณ์ที่เรียกว่า "เอฟเฟกต์โมเสก" ซึ่งนำข้อมูลต่างๆ ที่กระจัดกระจายจากแหล่งที่มาต่างๆ มารวมกันเพื่อสร้างภาพบุคคลที่มีรายละเอียดและเปิดเผย ตัวอย่างเช่น เครื่องอ่านป้ายทะเบียนอัตโนมัติที่บันทึกตำแหน่งของยานพาหนะ รวมกับข้อมูลการจดจำใบหน้าและอินพุตการเฝ้าระวังอื่นๆ สามารถให้ข้อมูลเชิงลึกเกี่ยวกับกิจวัตรประจำวันของบุคคล สมาคม และแม้แต่ความเกี่ยวข้องทางการเมืองหรือศาสนา
ผลการวิจัยของ GAO เน้นย้ำว่าความสามารถดังกล่าว แม้ว่าจะไม่ได้ผิดกฎหมายโดยเนื้อแท้ แต่ก็ส่งผลกระทบที่น่าหวาดกลัวต่อกิจกรรมที่ได้รับการคุ้มครองตามรัฐธรรมนูญ เช่น เสรีภาพในการพูดและการชุมนุม ความรู้หรือการรับรู้ของการถูกติดตามอย่างต่อเนื่องอาจทำให้บุคคลไม่สามารถเข้าร่วมในการประท้วงในที่สาธารณะหรือมีส่วนร่วมในรูปแบบอื่น ๆ ของความขัดแย้ง
นอกเหนือจากข้อกังวลด้านความเป็นส่วนตัวที่ชัดเจนแล้ว การตรวจสอบของ GAO ยังให้ความสำคัญกับความเสี่ยงของการมีอคติในการใช้เทคโนโลยีของ DHS แม้ว่าเครื่องมือที่ขับเคลื่อนด้วย AI สัญญาว่าจะเพิ่มประสิทธิภาพและความแม่นยำของการเฝ้าระวัง แต่ก็เพิ่มความเสี่ยงของอคติเชิงระบบและอัลกอริธึม
รายงานการตรวจสอบของ GAO เน้นย้ำว่านโยบายและขั้นตอนปฏิบัติของ DHS ที่มีอยู่ยังขาดการจัดการความเสี่ยงเหล่านี้อย่างครอบคลุม ในขณะที่แผนกกำลังพัฒนาแนวทางในการประเมินและบรรเทาอคติเฉพาะด้าน AI แต่ยังไม่ได้ขยายความพยายามเหล่านี้เพื่อรวมชุดเทคโนโลยีการตรวจจับ การสังเกต และการตรวจสอบที่กว้างขึ้น การขาดการกำกับดูแลนี้ทำให้เกิดช่องว่างสำคัญในการปกป้องเสรีภาพของพลเมือง โดยเฉพาะอย่างยิ่งสำหรับชุมชนชายขอบที่ได้รับผลกระทบอย่างไม่สมส่วนจากการสอดแนม
GAO ตั้งข้อสังเกตว่า "ในขณะที่ DHS กำลังพัฒนานโยบายและขั้นตอนเพื่อช่วยให้แน่ใจว่าเทคโนโลยี AI ได้รับการประเมินอคติ แต่ก็ไม่มีแผนที่จะพัฒนานโยบายหรือขั้นตอนดังกล่าวสำหรับเทคโนโลยีการตรวจจับ การสังเกต และการตรวจสอบอื่นๆ" เพราะ "ไม่จำเป็น" ” GAO กล่าวเสริมว่า “CBP, ICE และหน่วยสืบราชการลับระบุว่าพวกเขาไม่มีนโยบายหรือขั้นตอนในการประเมินการใช้เทคโนโลยีการตรวจจับ การสังเกต และการตรวจสอบทั้งหมดโดยเฉพาะสำหรับอคติ”
ในขณะเดียวกัน ผลที่ตามมาของการสอดแนมแบบลำเอียงยังส่งผลกระทบอย่างกว้างขวาง การระบุตัวตนที่ไม่ถูกต้องและการกำหนดเป้าหมายแบบเลือกปฏิบัติอาจนำไปสู่การจับกุมโดยมิชอบ การสอบสวนที่รุกราน และการทำลายความไว้วางใจระหว่างหน่วยงานบังคับใช้กฎหมายและชุมชนที่พวกเขาให้บริการ นอกจากนี้ การตัดสินใจว่าจะปรับใช้เทคโนโลยีเฝ้าระวังที่ไหนและอย่างไร เช่น การจัดลำดับความสำคัญของพื้นที่ที่มีอาชญากรรมสูง สามารถเสริมสร้างความแตกต่างทางเชื้อชาติและเศรษฐกิจในการบังคับใช้กฎหมายโดยไม่ตั้งใจ
การตรวจสอบของ GAO ไม่เพียงแต่บันทึกข้อบกพร่องเหล่านี้เท่านั้น แต่เป็นแนวทางสำหรับการปฏิรูป หนึ่งในข้อเสนอแนะคือการพัฒนานโยบายและขั้นตอนที่เข้มงวดเพื่อประเมินและบรรเทาอคติในเทคโนโลยีการเฝ้าระวังทั้งหมด ไม่ใช่แค่เทคโนโลยีที่ขับเคลื่อนโดย AI มาตรการดังกล่าวจะช่วยให้แน่ใจว่าเทคโนโลยี DHS จะไม่ส่งผลกระทบอย่างไม่สมส่วนต่อกลุ่มใดกลุ่มหนึ่งหรือละเมิดสิทธิพลเมือง
รายงานการตรวจสอบยังเน้นย้ำถึงความจำเป็นที่ DHS จะต้องปรับปรุงการปกป้องความเป็นส่วนตัวด้วยการฝังลงในนโยบายการปฏิบัติงานสำหรับแต่ละเทคโนโลยีโดยตรง นโยบายเหล่านี้ควรกำหนดหลักเกณฑ์ที่ชัดเจนเกี่ยวกับการเก็บรวบรวม การเก็บรักษา และการแบ่งปันข้อมูล ตลอดจนบังคับใช้ความรับผิดชอบผ่านการตรวจสอบและการทบทวนการควบคุมดูแล
นอกจากนี้ GAO ยังเรียกร้องให้เพิ่มความโปร่งใสและความร่วมมือระหว่าง DHS และสำนักงานเพื่อสิทธิพลเมืองและเสรีภาพของพลเมือง โดยกำหนดให้เพื่อปรึกษา CRCL เกี่ยวกับอคติที่อาจเกิดขึ้นและผลกระทบต่อความเป็นส่วนตัวก่อนที่จะใช้เทคโนโลยีใหม่ DHS สามารถส่งเสริมวัฒนธรรมของความรับผิดชอบและการเฝ้าระวังทางจริยธรรม GAO กล่าว
ปัญหาที่เกิดขึ้นโดยการตรวจสอบของ GAO ครอบคลุมไปไกลกว่า DHS ซึ่งสะท้อนถึงข้อถกเถียงทางสังคมในวงกว้างเกี่ยวกับบทบาทของเทคโนโลยีในการกำกับดูแลและการบังคับใช้กฎหมาย เครื่องมือเฝ้าระวังที่แพร่หลายอย่างรวดเร็วได้แซงหน้าการพัฒนากรอบกฎหมายและจริยธรรมเพื่อควบคุมการใช้งาน ความล่าช้าด้านกฎระเบียบนี้ทำให้เกิดช่องว่างสำหรับการใช้อำนาจในทางที่ผิดและการทำลายความไว้วางใจของสาธารณะในสถาบันที่ออกแบบมาเพื่อปกป้องและให้บริการ
ดังที่การตรวจสอบ DHS ของ GAO แสดงให้เห็น ความท้าทายด้านความเป็นส่วนตัวและความลำเอียงในเทคโนโลยีนั้นเป็นสิ่งที่ผ่านไม่ได้ แต่จำเป็นต้องมีความพยายามและความมุ่งมั่นร่วมกัน การนำคำแนะนำของ GAO ไปใช้ DHS สามารถกำหนดแบบอย่างสำหรับการใช้เทคโนโลยีเฝ้าระวังอย่างรับผิดชอบและเท่าเทียมกัน โดยสร้างสมดุลระหว่างความจำเป็นด้านความมั่นคงของชาติกับสิทธิขั้นพื้นฐานของบุคคลที่ DHS ทำหน้าที่
คำถามไม่ได้อยู่ที่ว่าเทคโนโลยีจะยังคงมีบทบาทสำคัญในการบังคับใช้กฎหมายหรือไม่ แต่การใช้งานนั้นจะได้รับคำแนะนำจากหลักการที่ส่งเสริมศักดิ์ศรี ความเสมอภาค และความเป็นส่วนตัวของบุคคลทั้งหมดหรือไม่ เงินเดิมพันตามที่การตรวจสอบของ GAO ระบุไว้อย่างชัดเจนไม่สามารถสูงขึ้นได้
หัวข้อบทความ
--------
