นักเรียน Harvard สองคนกลายเป็นหัวข้อข่าวหลังจากเปลี่ยนแว่นตาอัจฉริยะของ Meta ให้เป็นอุปกรณ์ที่จะจับใบหน้าของผู้คนโดยอัตโนมัติด้วยการจดจำใบหน้า และเรียกใช้ผ่านเครื่องมือค้นหาใบหน้า หนึ่งในบริษัทที่ให้บริการฟังก์ชั่นค้นหาใบหน้า, ไม่ค่อยพอใจกับมันมากนัก
AnhPhu Nguyen และ Caine Ardayfio เผยแพร่วิดีโอที่พวกเขาใช้แว่นตาอัจฉริยะเพื่อระบุตัวผู้คนบนท้องถนน และค้นหาข้อมูลส่วนบุคคลผ่านบริการต่างๆ เช่น PimEyes นักเรียนใช้กล้องในตัวบนแว่นตา Ray-Ban ของ Meta เพื่อถ่ายวิดีโอสดผ่าน Instagram และรันผ่านซอฟต์แวร์ I-XRAY
“เราสตรีมวิดีโอจากแว่นโดยตรงไปยัง Instagram และมีโปรแกรมคอมพิวเตอร์คอยตรวจสอบสตรีม” Nguyen กล่าวในวิดีโอ- “เราใช้ AI เพื่อตรวจจับเมื่อเรามองใบหน้าของใครบางคน จากนั้นเราจะค้นหาข้อมูลในอินเทอร์เน็ตเพื่อค้นหารูปภาพของบุคคลนั้นเพิ่มเติม สุดท้ายนี้ เราใช้แหล่งข้อมูล เช่น บทความออนไลน์ และฐานข้อมูลการลงทะเบียนผู้มีสิทธิเลือกตั้งเพื่อค้นหาชื่อ หมายเลขโทรศัพท์ ที่อยู่บ้าน และชื่อญาติ จากนั้นข้อมูลทั้งหมดจะถูกส่งกลับไปยังแอปที่เราเขียนบนโทรศัพท์ของเรา”
กระบวนการทั้งหมดเสร็จสิ้นภายในหนึ่งนาทีครึ่ง เขากล่าวเสริม
ซอฟต์แวร์ I-XRAY มีเอกลักษณ์เฉพาะตัวเนื่องจากต้องใช้ Large Language Models (LLM) ในการประมวลผลและรวบรวมข้อมูลจำนวนมาก เป้าหมายหลักเบื้องหลังโครงการนี้ไม่ใช่เพื่อแสดงให้เห็นว่า LLM และ Reverse Face Search ทำงานร่วมกันอย่างไร แต่เพื่อเน้นย้ำถึงความเสี่ยงด้านความเป็นส่วนตัวจากเทคโนโลยีที่มีอยู่อย่างแพร่หลาย นักศึกษา Harvard ทั้งสองคนตั้งข้อสังเกต
อย่างไรก็ตาม PimEyes เตือนว่าในขณะที่ผู้เขียนอ้างว่ากำลังสร้างความตระหนักรู้ให้กับสาธารณะ โครงการนี้อาจส่งผลกระทบที่ไม่อาจย้อนกลับได้โดยการสร้างแรงบันดาลใจให้ผู้อื่นเลียนแบบเทคโนโลยี
“พวกเขาไม่เพียงแต่แสดงให้เห็นถึงประเด็นของพวกเขาเท่านั้น แต่ยังจัดทำพิมพ์เขียวให้กับบุคคลที่เป็นอันตรายเกี่ยวกับวิธีการติดตั้งอาวุธให้กับเครื่องมือที่พร้อมใช้งานโดยไม่ได้ตั้งใจ” Giorgi Gobronidze ผู้อำนวยการของ PimEyes กล่าวอัพเดตไบโอเมตริกซ์-
การปลอบใจประการหนึ่งคือความพยายามที่จะขยายขนาดนี้ในระดับที่ใหญ่กว่านั้นจะต้องมีการผสานรวม API ซึ่งบริษัทไม่อนุญาต
บริษัททบิลิซีซึ่งตั้งอยู่ในรัฐจอร์เจียยังกล่าวอีกว่าการใช้งานดังกล่าวขัดต่อข้อกำหนดในการให้บริการและประกาศใช้มาตรการรักษาความปลอดภัยเพิ่มเติมเพื่อป้องกันเหตุการณ์ที่คล้ายกันในอนาคต
“ในขณะนี้ เราได้แบนบัญชีสองบัญชีที่เกี่ยวข้องกับผู้เขียนโครงการแล้ว และอีกหกบัญชีกำลังถูกสอบสวนเพิ่มเติม” Gobronidze กล่าว “ในอนาคตอันใกล้นี้ เราจะอัปเดตโปรโตคอลและนโยบายความปลอดภัยเพิ่มเติมเพื่อป้องกันการนำเทคโนโลยีของเราไปใช้ในทางที่ผิด”
ผู้อำนวยการ PimEyes ตั้งข้อสังเกตว่าโครงการนี้สามารถดำเนินการได้โดยไม่ต้องมีส่วนร่วม เนื่องจากมีเครื่องมือที่ทรงพลังกว่ามาก เช่น เครื่องมือจดจำใบหน้าแบบไบโอเมตริกซ์ เขากล่าวว่ามีความแม่นยำมากกว่าบริการของ PimEyes ถึง 20 ถึง 35 เปอร์เซ็นต์ ซึ่งมุ่งเน้นไปที่การวิเคราะห์ภาพถ่าย ไม่ใช่การจดจำใบหน้าด้วยไบโอเมตริกซ์
“เมื่อพิจารณาถึงความจริงที่ว่าเราได้ดำเนินการเปลี่ยนแปลงทางสถาบันและเทคโนโลยีมากมายเพื่อปรับปรุงบริการและแนวทางปฏิบัติของเรา เป็นเรื่องน่าหงุดหงิดอย่างยิ่งที่เห็นว่ามีคนใช้เทคโนโลยีของเราในทางที่ผิดไม่เพียงแต่เท่านั้น แต่ยังรวมถึงเครื่องมือและฐานข้อมูลโอเพ่นซอร์สอื่น ๆ เพื่อสร้างสิ่งที่ในความคิดของฉัน ขาดวัตถุประสงค์และไม่ก่อให้เกิดประโยชน์ที่จับต้องได้” Gobronidze กล่าว
ซอฟต์แวร์ของ PimEyes ที่ตำรวจนิวซีแลนด์ใช้
PimEye's ยังได้รับความสนใจทั่วโลกในนิวซีแลนด์ ซึ่งพบว่ามีหน่วยงานบังคับใช้กฎหมายเข้าถึงเว็บไซต์ของบริษัท
ผลการตรวจสอบภายในพบว่าเจ้าหน้าที่ตำรวจเข้าถึงเว็บไซต์ของ PimEyes เกือบ 400 ครั้งในปีที่แล้วจนกระทั่งพวกเขาบล็อกไซต์ดังกล่าวในเดือนพฤษภาคม 2566 ตำรวจนิวซีแลนด์ก็ใช้บริการที่คล้ายกันที่เรียกว่า Facecheck.ID เกือบ300 ครั้ง-
ในกคำแถลงสำหรับสำนักข่าว RNZ ตำรวจกล่าวว่าไม่สามารถระบุได้ว่าผู้ใช้ทำอะไรบนเว็บไซต์ แต่ไม่น่าเป็นไปได้ที่พนักงานจะใช้ฟีเจอร์การสแกนใดๆ
“จำนวนข้อมูลทั้งหมดที่ถ่ายโอนนั้นต่ำมาก ไม่น่าเป็นไปได้ว่าจะนำไปใช้ประโยชน์อย่างมีนัยสำคัญใดๆ” เขากล่าว
พิมอายส์เล่าว่าไบโอเมตริกซ์อัพเดตว่ามันไม่รู้ถึงการใช้
“เราไม่มีสัญญาหรือความร่วมมือเชิงสถาบันกับหน่วยงานบังคับใช้กฎหมายใดๆ และเมื่อใดก็ตามที่พวกเขาต้องการใช้บริการของเรา ก็ขึ้นอยู่กับดุลยพินิจของพวกเขา” Giorgi Gobronidze ผู้อำนวยการของบริษัทกล่าว
ปีนี้สหราชอาณาจักรกองกำลังตำรวจที่ใหญ่ที่สุดเลิกใช้ PimEyes หลังพบว่ามีการเข้าถึงซอฟต์แวร์มากกว่า 2,000 ครั้ง การใช้ซอฟต์แวร์โดยหน่วยงานบังคับใช้กฎหมายก็ทำให้เกิดความกังวลเช่นกันและ-
PimEyes กล่าวว่าบริษัทได้ทำ “การเปลี่ยนแปลงสถาบันที่สำคัญ” ในช่วงปีที่ผ่านมาเพื่อให้มั่นใจว่ามีการปฏิบัติตามกฎระเบียบ รวมถึงการมุ่งเน้นไปที่การลดขนาดข้อมูลให้เหลือน้อยที่สุด บริษัทยังได้ดำเนินการเพิ่มประสิทธิภาพโครงข่ายประสาทเทียมเพื่อให้แน่ใจว่าเนื้อหาที่เกี่ยวข้องกับเด็กจะถูกบล็อกด้วยความแม่นยำสูง
หัวข้อบทความ
-----
