การจัดหาอย่างรอบคอบการรวบรวมข้อมูลช่วยหลีกเลี่ยงความท้าทายทางชีวภาพทั่วไป

กระทรวงความมั่นคงแห่งมาตุภูมิ (DHS) และidemiaได้กล่าวถึงประเด็นสำคัญรอบ ๆ ความปลอดภัยและความโปร่งใสของปัญญาประดิษฐ์ (AI) ในอัลกอริทึมไบโอเมตริกซ์ นี่คือการตอบสนองต่อล่าสุดของทำเนียบขาวคำสั่งผู้บริหารสร้างมาตรฐานใหม่เพื่อความปลอดภัยและความปลอดภัยของ AI รวมถึง DHS ITแผนกลยุทธ์ซึ่งจัดลำดับความสำคัญของการพัฒนาระบบ AI ที่ปลอดภัยปลอดภัยน่าเชื่อถือและเป็นอิสระจากการเลือกปฏิบัติอัลกอริทึม

ในการสัมมนาผ่านเว็บในสัปดาห์นี้ผู้เชี่ยวชาญจากการบริหารความปลอดภัยการขนส่ง (TSA) และ Idemia เน้นถึงความจำเป็นที่สำคัญในการจัดการอัลกอริทึมอคติในระบบไบโอเมตริกซ์ที่ขับเคลื่อนด้วย AI โดยเฉพาะอย่างยิ่งในซอฟต์แวร์การจดจำใบหน้า การอภิปรายเน้นความสำคัญของการทำความเข้าใจว่าเชื้อชาติเพศและปัจจัยทางประชากรอื่น ๆ มีส่วนช่วยในการมีอคติและความจำเป็นในการสร้างมาตรฐานทั่วทั้งอุตสาหกรรมและแนวปฏิบัติที่ดีที่สุดเพื่อลดปัญหาเหล่านี้

บทสนทนายังเน้นไปที่ความสำคัญของการประเมินและปรับปรุงระบบไบโอเมตริกซ์ที่ขับเคลื่อนด้วย AI เพื่อให้แน่ใจว่ามีความเป็นธรรมความแข็งแกร่งและความแม่นยำและการปรับสมดุลนวัตกรรมกับข้อกำหนดด้านความปลอดภัยที่เข้มงวด นอกจากนี้ลำโพงยังเน้นถึงความต้องการความโปร่งใสในกระบวนการจัดหาและความสำคัญของการรักษาปฏิสัมพันธ์ของมนุษย์และการพิจารณาในการประยุกต์ใช้ไบโอเมตริกซ์

Evan Bays รองประธานฝ่ายวิศวกรรมและการดำเนินงาน DOJ ที่idemia nss(โซลูชั่นความมั่นคงแห่งชาติ) และ Matt Gilkeson หัวหน้าเจ้าหน้าที่เทคโนโลยี/หัวหน้าเจ้าหน้าที่ข้อมูลของTSAเจาะลึกเข้าไปในภูมิทัศน์ปัจจุบันของอัลกอริทึมไบโอเมตริกซ์

อ่าวชี้ให้เห็นถึงความก้าวหน้าที่สำคัญของอุตสาหกรรมในการรับรู้และจัดการกับอคติอัลกอริทึม แต่ยังเน้นย้ำถึงความจำเป็นในการเฝ้าระวังอย่างต่อเนื่อง เขาอธิบายว่าอคติในระบบไบโอเมตริกซ์สามารถนำไปสู่ผลกระทบที่รุนแรงเช่นการจับกุมผิดกฎหมายหรือการปฏิเสธการบริการซึ่งเน้นถึงความสำคัญของการพัฒนาและปรับใช้ AI ด้วยความโปร่งใสและการพิจารณาทางจริยธรรม

Gilkeson ให้ข้อมูลเชิงลึกเกี่ยวกับวิธีการของ TSA ในการกำกับดูแลข้อมูลและมาตรการที่ใช้เพื่อให้แน่ใจว่าระบบ AI นั้นปลอดภัยและเชื่อถือได้ เขาเน้นบทบาทของการรวบรวมข้อมูลที่รับผิดชอบและการทดสอบระบบ AI อย่างเข้มงวดเพื่อให้แน่ใจว่าพวกเขาปราศจากอคติ ซึ่งรวมถึงการใช้ชุดข้อมูลที่หลากหลายสำหรับอัลกอริทึมการฝึกอบรมและตรวจสอบระบบอย่างต่อเนื่องเพื่อหลีกเลี่ยงการเลือกปฏิบัติใด ๆ

เราสามารถพูดคุยเกี่ยวกับกระบวนการอื่น ๆ เหล่านี้ที่คุณรู้ว่าได้เปิดใช้งานการปฏิเสธบริการที่พวกเขามีสิทธิ์อย่างถูกต้องดังนั้นอคติเหล่านี้มีผลกระทบต่อชีวิตของบุคคลมันไม่ใช่คอมพิวเตอร์มันไม่ใช่การแสดงข้อมูลทางสถิติ

ผู้พูดยังหารือเกี่ยวกับความสำคัญของความโปร่งใสในกระบวนการจัดหาสำหรับแอปพลิเคชัน AI พวกเขาเน้นถึงความจำเป็นสำหรับหน่วยงานภาครัฐและพันธมิตรภาคเอกชนในการทำงานร่วมกันเพื่อให้แน่ใจว่าอัลกอริทึมที่พวกเขาปรับใช้นั้นอยู่ภายใต้การตรวจสอบอย่างเข้มงวดและเป็นไปตามมาตรฐานสูงสุดของความยุติธรรมและความแม่นยำ

“ สิ่งหนึ่งที่นี่มาสายคือเมื่อรัฐบาลจัดหา AI เพื่อระบุตัวตนทางชีวภาพAI Generativeเป็นคนที่จับพาดหัวข่าวจำนวนมาก” Bays กล่าว

“ แต่เมื่อเรากำลังพูดถึงการมีความเข้าใจถึงความถูกต้องความน่าเชื่อถือและความถูกต้องของ AI เพื่อให้ตรงกับตัวตนในระบบขนาดใหญ่เหล่านี้ที่สนับสนุนกรณีการใช้การตรวจสอบแบบหนึ่งต่อหนึ่งหรือกรณีการใช้บัตรประจำตัวแบบหนึ่งต่อหลายคน

Bays เสริมว่าความสามารถของ Generative AI ในการผลิตภาพสังเคราะห์ยังคงเพิ่มขึ้น

“ ใครสามารถใช้ใบหน้าที่สังเคราะห์ขึ้นและนำไปใช้ในระบบไบโอเมตริกซ์ได้หรือไม่ผลกระทบของสิ่งนั้นคืออะไร AI ได้เปิดใช้งานไม่เพียง แต่ความแม่นยำและประสิทธิภาพของอัลกอริทึมในการปรับปรุง แต่ยังนำเสนอโอกาสในการโจมตี” เขากล่าวต่อ

“ ความโปร่งใสของสิ่งที่มีอยู่อัลกอริทึมตามที่นำเสนอโดยผู้ขายถูกวัดจากสถานการณ์และชุดข้อมูลที่หลากหลายเหล่านี้หนึ่งในสิ่งที่คุณต้องการเห็นกลับไปสู่แง่มุมทางคณิตศาสตร์ของมัน อคติและวัดได้อย่างไร”

นอกจากนี้ Gilkeson และ Bays ยังเน้นถึงความจำเป็นในการดูแลรักษามนุษย์ในการประยุกต์ใช้ระบบไบโอเมตริกซ์ ในขณะที่ AI สามารถเพิ่มประสิทธิภาพและความถูกต้องของกระบวนการตรวจสอบอัตลักษณ์ผู้พูดยอมรับว่าการตัดสินของมนุษย์ยังคงเป็นองค์ประกอบสำคัญในสถานการณ์ที่เทคโนโลยีอาจมีผลกระทบต่อชีวิต