นักวิจัยแสดงความคืบหน้าในการอธิบายในระบบแผ่นไบโอเมตริกซ์

การอธิบายการตัดสินใจของระบบปัญญาประดิษฐ์เช่นที่ใช้ในการตรวจจับการโจมตีแบบไบโอเมตริกซ์เป็นเรื่องที่ซับซ้อนและไม่เพียง แต่ในแง่ของการวิเคราะห์คอมพิวเตอร์ทางเทคนิคที่เกี่ยวข้องสมาคมชีวภาพแห่งยุโรป(EAB) มีความท้าทายทางแนวคิดที่มีหนามเกี่ยวกับการใช้ความเข้าใจของมนุษย์กับการตัดสินใจของระบบอัตโนมัติและวิธีการมาถึง

'' การอธิบาย 'การรับรู้ไบโอเมตริกซ์และวิธีการแผ่น: เครื่องมือ XAI สำหรับใบหน้า Biometrics' ถูกนำเสนอโดยการมองเห็นคอมพิวเตอร์และนักวิจัยชีวภาพ Ana Sequeira ของinesc tecในปอร์โตโปรตุเกส

Sequeira เจาะลึกถึงความต้องการปัญญาประดิษฐ์ที่อธิบายได้จุดสนใจของการวิจัยของเธอที่สถาบัน R&D

คุณสมบัติพื้นฐานที่จำเป็นสำหรับชีวภาพในการทำงานได้รับการตรวจสอบพร้อมกับช่องโหว่ของเทคโนโลยีดังกล่าวเพื่อการโจมตีการนำเสนอ การใช้มาตรฐาน ISO/IEC เป็นจุดเริ่มต้น Sequeira นำเสนอการโจมตีการนำเสนอทางชีวภาพซึ่งแบ่งออกเป็นส่วนใหญ่ระหว่างการโจมตีอัตโนมัติเช่นอัตลักษณ์สังเคราะห์และการโจมตีของมนุษย์เช่นวิชาไร้ชีวิตหรือการเปลี่ยนแปลง

ปัญหาที่เกิดขึ้นทันทีในการตรวจจับการโจมตีการนำเสนอ Sequeira กล่าวว่าเป็นเรื่องทั่วไป: แบบจำลองสามารถบอกประเภทตัวอย่างปลอมที่ไม่รู้จักจากของแท้ได้อย่างไร

การวิเคราะห์แบบจำลองไอริสและลายนิ้วมือชีวภาพแนะนำว่าพวกเขาไม่มีประสิทธิภาพในการระบุประเภทการโจมตีใหม่ นี่คือส่วนหนึ่ง Sequeira ให้เหตุผลเนื่องจากวิธีการส่วนใหญ่ขึ้นอยู่กับการจำแนกประเภทไบนารีซึ่งเกี่ยวข้องกับสมมติฐานที่ง่ายเกินไปเกี่ยวกับผู้โจมตีและข้อมูลการฝึกอบรมระดับหนึ่งสำหรับการออกแบบแบบจำลอง

Sequeira และทีมของเธอประเมินโมเดล PAD ด้วยการปลอมแปลงทดสอบทั้งที่ใช้และไม่ได้ใช้ในการฝึกอบรมเรียกว่า "การโจมตีที่มองไม่เห็น" หลัง

พวกเขาพบว่าเทคนิคการทำให้เป็นมาตรฐานซึ่งประกอบด้วยการฝึกอบรมและการถ่ายโอนกระบวนการเรียนรู้ที่ดีขึ้น

“ เราสามารถแยกความไม่สามารถแยกได้ดีขึ้นระหว่างความสุจริตและการโจมตี แต่ไม่เพียงแค่นั้นเรายังสามารถทำให้การโจมตีใกล้เข้ามาในแง่หนึ่งซึ่งทำให้แบบจำลองของเราแข็งแกร่งขึ้น” SequeiraIrisguardอธิบาย

ชุมชนการวิจัยกำลังเผชิญกับคำถามเกี่ยวกับสิ่งที่โมเดล AI กำลังเรียนรู้และตัดสินใจตามขณะที่สังคมพยายามที่จะเห็นภายใน 'บล็อกบล็อก' AI

เอาต์พุตเป็นอินพุต

การเรียนรู้ของเครื่อง Sequeira ชี้ให้เห็นถึงการเปลี่ยนแปลงกระบวนทัศน์ของการคำนวณการย้ายข้อมูลที่ก่อนหน้านี้เป็นผลลัพธ์ที่สร้างขึ้นโดยโปรแกรมและเริ่มต้นข้อมูลไปยังด้านการพัฒนาด้วยโปรแกรมเป็นเอาต์พุต การเรียนรู้อย่างลึกซึ้งขึ้นอยู่กับการเรียนรู้การเป็นตัวแทน Sequeira กล่าวและเป็นสิ่งสำคัญที่จะต้องรู้ว่าคุณสมบัติที่เรียนรู้นั้นมีความเกี่ยวข้องมากกว่าที่จะปรากฏขึ้นในระหว่างกระบวนการฝึกอบรม

เนื่องจาก AI ถูกใช้ในแอปพลิเคชันเช่นการดูแลสุขภาพและการบังคับใช้กฎหมายชีวภาพ, บันทึก Sequeira, ความโปร่งใสเป็นสิ่งจำเป็นและแม้กระทั่งกำหนดโดย GDPR

อย่างไรก็ตามมีการแลกเปลี่ยนโดยธรรมชาติระหว่างประสิทธิภาพและความสามารถในการอธิบายตาม Sequeira แม้จะมีการแลกเปลี่ยนนี้ความสามารถในการอธิบายไม่เพียง แต่เป็นที่ต้องการของความโปร่งใสเท่านั้น แต่ยังรวมถึงผลกำไรที่อาจเกิดขึ้นได้เช่นการเปิดเผยช่องโหว่ที่ซ่อนอยู่

ความสามารถในการอธิบายยังไม่เหมือนกับความสามารถในการตีความแม้ว่าบางครั้งคำนั้นจะใช้แทนกันได้ มีฉันทามติในชุมชน AI ที่อธิบายได้ใน AI สามารถทำได้ผ่านการศึกษาระดับก่อนรูปแบบในรูปแบบและหลังโมเดลดังนั้นทีมของ Sequeira จึงมุ่งเน้นไปที่การทดลองที่มีการตรวจจับการโจมตีด้วยการนำเสนอ

แผนที่ความร้อนพิกเซล

ความสามารถในการอธิบาย AI นั้นขึ้นอยู่กับตัวชี้วัดสำหรับฉลาก แต่วิธีการนี้มี จำกัด และ Sequeira ถามว่าขอบเขตของการวิเคราะห์สามารถขยายได้หรือไม่

แผนที่การเปิดใช้งานระดับแสดงกลุ่มพิกเซลที่ใช้ในการทำนายคลาสทำให้เกิดความเข้าใจอย่างลึกซึ้งเกี่ยวกับกระบวนการตัดสินใจอัลกอริทึม พวกเขาแสดงความแตกต่างอย่างมีนัยสำคัญในพฤติกรรมของโมเดลการโจมตีครั้งเดียวและการโจมตีที่มองไม่เห็นเช่นแม้ว่าทั้งคู่จะทำเช่นเดียวกันการจำแนกที่ถูกต้อง

ในกรณีของการทดลองนี้โมเดลที่มองไม่เห็นการโจมตีได้รับการฝึกฝนเกี่ยวกับการโจมตีทุกประเภทที่มีอยู่ยกเว้นการทดสอบที่ได้รับการทดสอบ Sequeira อธิบาย

แผนที่ความร้อนที่เกิดขึ้นแสดงให้เห็นว่าแบบจำลองการตัดสินเดียวกันตามภาพเดียวกันในหลายกรณีที่แผนที่เปิดใช้งานคลาสทำให้ชัดเจนว่าพวกเขามุ่งเน้นไปที่ส่วนต่าง ๆ ของภาพ นี่เป็นกรณีที่มีทั้งการโจมตีการนำเสนอที่จัดประเภทอย่างถูกต้องและตัวอย่างโดยสุจริต

คำอธิบายสำหรับตัวอย่างที่จำแนกในลักษณะเดียวกันนั้นใกล้ชิดกันมากขึ้น

ที่ที่คุณจะดูภาพเพื่อตรวจจับการโจมตีการนำเสนอดูเหมือนจะใช้งานง่าย บุคคลจะมุ่งเน้นไปที่การเปลี่ยนแปลงระหว่างสิ่งประดิษฐ์เช่นหน้ากากและสภาพแวดล้อมที่แท้จริงรอบ ๆ โมเดลแผ่นโจมตีเดี่ยวมุ่งเน้นไปที่พื้นที่ที่คล้ายกัน แต่โมเดลที่มองไม่เห็นการโจมตีไม่ได้

ทีมงานของ Sequeira มาถึงชุดคุณสมบัติที่พึงประสงค์สี่ชุดสำหรับคำอธิบายเปรียบเทียบแบบจำลองการโจมตีเดี่ยวและที่มองไม่เห็นการเชื่อมโยงภายในชั้นเรียนความหมายต่อมนุษย์และการแลกเปลี่ยนข้อมูลการฝึกอบรมและการทดสอบ อย่างไรก็ตามเกณฑ์ทำให้เกิดคำถามว่า 'คล้ายกัน' และ 'มีความหมาย' ถูกกำหนดไว้ในบริบทนี้อย่างไร

ความท้าทายที่เหลืออยู่สำหรับชุมชน Biometrics ตาม Sequeira คือการพัฒนาตัวชี้วัดประสิทธิภาพใหม่สำหรับคำอธิบาย