การฉ้อโกงเงินสงเคราะห์ครอบครัว: CAF ใช้อัลกอริธึมที่กำหนดเป้าหมายไปยังกลุ่มที่ไม่ปลอดภัยที่สุด ตามข้อมูลของ Quadrature du Net

กองทุนช่วยเหลือครอบครัวแห่งชาติ (CNAF) จะตรวจสอบได้อย่างไรว่าผู้รับผลประโยชน์กระทำการฉ้อโกงหรือไม่? เรารู้ว่าการควบคุมของเขาไม่ได้ถูกตัดสินแบบสุ่ม แต่เป็นกอัลกอริทึมกำหนดว่าผู้รับผลประโยชน์ทางสังคมขั้นต่ำรายใดที่จะได้รับการตรวจสอบ ความจริงยังคงอยู่ที่ความทึบบางอย่างล้อมรอบอัลกอริธึมนี้และการทำงานของมัน ตอนนี้เรารู้มากขึ้นแล้ว เพราะหลังจากการต่อสู้ทางกฎหมายมาหลายเดือน ในที่สุด CNAF ก็ตกลงที่จะแบ่งปันซอร์สโค้ดสองชุดของ "อัลกอริทึมการให้คะแนน" ที่ใช้ในการตัดสินใจว่าผู้รับผลประโยชน์รายใดที่จะ "ควบคุม" วันหนึ่งตั้งแต่ปี 2010 และอีกวันหนึ่งในปี 2014 ซอร์สโค้ดเหล่านี้เผยแพร่โดย Quadrature du Net ในวันจันทร์ที่ 27 พฤศจิกายนเว็บไซต์-

โดยทำให้คนทั่วไปเข้าถึงได้โดยเฉพาะโดยแสดงรายการตัวแปรที่ใช้และดัชนีที่เกี่ยวข้องในไฟล์ Excelสมาคมปกป้องสิทธิต้องการยุติ "ความลึกลับ" ที่ล้อมรอบอัลกอริธึมเหล่านี้ นี่ไม่ใช่ซอร์สโค้ดของอัลกอริทึมที่ CNAF ใช้อยู่ในปัจจุบัน แต่สองเวอร์ชันก่อนหน้าของปี 2010 และ 2014 แสดงให้เห็นอย่างชัดเจนว่าตัวแปรที่ใช้ลงโทษสิ่งที่ล่อแหลมที่สุด อธิบาย Quadrature du Net บนเว็บไซต์ของตน แสดงความเสียใจต่อการดำเนินการ “ของระบบสอดแนมมวลชนที่เป็นอันตรายอย่างยิ่ง-

คะแนนความเสี่ยงที่มอบให้กับผู้รับผลประโยชน์แต่ละราย

สมาคมเพื่อการปกป้องสิทธิ์ดิจิทัลใช้เวลาหลายเดือนในการรับซอร์สโค้ดของอัลกอริทึมเหล่านี้ ตามที่ร้องขอหลังจากนั้นโดยเปิดเผยการมีอยู่ของเครื่องมือนี้ในปี 2565- ในเดือนธันวาคมของปีเดียวกันนั้นเซลล์การสอบสวนโดย Radio France-Franceinfoแสดงให้เห็นว่า CNAF จัดอันดับผู้รับประโยชน์อย่างดีโดยพิจารณาจากความเสี่ยงของการฉ้อโกง เพื่อนร่วมงานของเราอธิบายว่า CNAF มอบ “คะแนนความเสี่ยง» สำหรับแต่ละโปรไฟล์ โดยข้อมูลอ้างอิงโยงจากฝ่ายบริหารที่แตกต่างกัน ยิ่งเข้าใกล้ 1 ผู้รับก็ยิ่งเสี่ยงต่อการถูกควบคุมมากขึ้น ในระบบดังกล่าว สิ่งที่ล่อแหลมที่สุดซึ่งถือว่ามีความเสี่ยงมากกว่านั้นจะถูกควบคุมมากกว่า เพื่อนร่วมงานของเราเน้นย้ำ CNAF ยอมรับว่า Franceinfo ใช้อัลกอริธึมดังกล่าว แต่เพียงเล็กน้อยเท่านั้น

คงต้องรอดูกันต่อไปว่า CNAF ยึดถืออะไรในการกำหนดคะแนนนี้: ดังนั้นจึงจำเป็นต้องสามารถเข้าถึงซอร์สโค้ดของอัลกอริธึมนี้ได้- La Quadradure du Net ได้ขอให้กองทุนผลประโยชน์สื่อสารรหัสนี้ เพื่อดูว่าองค์ประกอบใดที่สามารถทำให้คะแนนของผู้รับผลประโยชน์ลดลง และองค์ประกอบใดที่จะเพิ่มโอกาสในการตรวจสอบอย่างหลัง

“ผู้นำ CNAF เล่นปริศนาเกี่ยวกับอัลกอริทึม”

ในตอนแรก CNAF ตอบกลับด้วยการแก้ไขซอร์สโค้ด – ชื่อตัวแปรทั้งหมดถูกซ่อนไว้ ฝ่ายบริหารเชื่อว่าผู้ฉ้อโกงสามารถหลอกอัลกอริธึมได้หากเผยแพร่โค้ดทั้งหมดที่ใช้อยู่ในปัจจุบัน แนวคิดคือการพูดว่า: “Sหากเราให้สูตรในการคำนวณคะแนนความเสี่ยงเหล่านี้ ผู้คนจะเข้าใจว่าพารามิเตอร์ใดบ้างที่นำมาพิจารณา และจะโกหกในการประกาศของตนเพื่อปรับเปลี่ยนคะแนนของตนอย่างไม่ถูกต้อง» อธิบายสมาชิกของ Quadrature du Net ที่แนะนำตัวเองว่า Alex ซึ่งรับผิดชอบการรณรงค์เกี่ยวกับอัลกอริทึม สัมภาษณ์โดย 01net.com มันคือ “การโต้เถียงเรื่องความไม่สุจริตอย่างยิ่งเนื่องจากเมื่อเราดูสูตรมันเป็นปัจจัยที่เกี่ยวข้องกับสถานการณ์ทางการเงินปัจจัยความไม่แน่นอนที่จำเป็นในการขอเข้าถึงความช่วยเหลือทางสังคม» เขากล่าวเสริม ดังนั้นหากคุณเปลี่ยนแปลง คุณจะไม่สามารถเข้าถึงสิทธิประโยชน์ทางสังคมอีกต่อไป

La Quadrature เพื่อหลีกเลี่ยงการดำเนินการตามขั้นตอนการบริหารที่ยาวนาน จึงขอให้มีการเผยแพร่รหัสก่อนหน้านี้ซึ่งไม่ได้ใช้อีกต่อไปในปัจจุบัน - ซอร์สโค้ดเหล่านี้ได้รับการอัปเดตเป็นประจำ - ผ่านขั้นตอน CADA (คำขอสำหรับการเข้าถึงเอกสารการบริหาร) ซึ่งสุดท้าย CNAF ก็ตอบสนองเชิงบวก

เรารู้ว่ากองทุนสงเคราะห์ครอบครัวใช้อัลกอริทึมประเภทนี้มาตั้งแต่ปี 2010 Vincent Dubois ศาสตราจารย์จากสถาบันการศึกษาการเมืองสตราสบูร์กและเป็นผู้เขียนควบคุมผู้ที่ได้รับความช่วยเหลือ กำเนิดและการใช้คำสำคัญได้แสดงให้เห็นแล้วว่าเครื่องมือนี้จงใจกำหนดเป้าหมายไปยังบุคคลที่ล่อแหลมที่สุด แต่ศาสตราจารย์ไม่มีสิทธิ์เผยแพร่สูตรนี้ ผู้จัดการแคมเปญ Quadrature du Net อธิบาย และเป็นเวลาหลายเดือนที่ผู้นำของ CNAF เมื่อถูกถามเกี่ยวกับอัลกอริธึม ก็ได้ปกป้องตัวเองโดยกล่าวว่า มันเป็นเครื่องมือในการขุดข้อมูล -ทันทีที่มันซับซ้อนมาก เมื่อเราถามพวกเขาว่าพวกเขากำหนดเป้าหมายผู้ที่มีปัญหามากที่สุดหรือไม่ พวกเขาตอบว่า: ไม่ แต่อันที่จริงไม่มีการกำหนดเป้าหมายในอัลกอริทึมเพราะเป็นสิ่งที่เป็นสถิติล้วนๆ สร้างขึ้นโดยผู้เชี่ยวชาญ- นี่คืออัลกอริธึมที่เป็น “กระจกเงาของสถานการณ์ทางสถิติเกี่ยวกับความเสี่ยงของข้อผิดพลาด», โต้แย้งเช่น Nicolas Grivel ผู้อำนวยการทั่วไปของ Cnaf ในหมู่เพื่อนร่วมงานของเราที่ฟรานซิสอินโฟ,เมื่อเดือนธันวาคมที่ผ่านมา

นี่คือสิ่งที่ตัวแปรซอร์สโค้ดมีอยู่

ด้วยการเปิดตัวซอร์สโค้ดปี 2010 และ 2014 สิ่งต่างๆ ก็ชัดเจนขึ้นเล็กน้อย เรารู้ว่าพารามิเตอร์ใดที่ใช้สำหรับอัลกอริธึมก่อนหน้านี้ สำหรับปี 2014 เราสามารถเรียกดูตัวแปรได้ 32 ตัว ซึ่งรวมถึงองค์ประกอบต่างๆ เช่น จำนวนเดือนของกิจกรรมทางวิชาชีพ การมีเด็กอยู่ ข้อเท็จจริงในการได้รับเงินสงเคราะห์สำหรับผู้ใหญ่ที่มีความพิการ (AAH) จำนวนครั้งที่คุณเชื่อมต่อ ไปยังพื้นที่เว็บของคุณ หรือความจริงที่ว่าคู่สมรสของคุณมีอายุมากกว่า 60 ปี ตัวแปรเหล่านี้บางส่วนบางครั้งสร้างขึ้นจากประวัติหลายเดือน ซึ่งรวมถึงข้อมูลจากคู่สมรสด้วย ยิ่งตัวแปรมีแนวโน้มที่จะนำไปสู่ความไม่มั่นคง (เช่น การตกงาน การเปลี่ยนแปลงของสถานการณ์) ยิ่งผู้รับเข้าใกล้มากขึ้นจะมีคะแนนเป็น 1 และมีแนวโน้มที่จะถูกติดตามมากขึ้น

CNAF สามารถลบตัวแปรที่มีความอ่อนไหวทางการเมืองเกินไปได้

ตรรกะนี้ไม่น่าแปลกใจสำหรับสมาชิกของ Quadrature du Net เพราะเขาอธิบายว่าอัลกอริธึมที่ CNAF สร้างขึ้นนั้นไม่ได้รับการฝึกฝนให้ตรวจจับการฉ้อโกง แต่เป็นการจ่ายเงินเกิน สิ่งเหล่านี้เป็นข้อผิดพลาดของผู้รับซึ่งส่งผลให้เกิดการจ่ายผลประโยชน์ทางสังคมมากเกินไป -ตามประกาศที่ทำกับ CNIL ในปี 2010 เรารู้ว่าเดิมทีอัลกอริทึม CNAF มีวัตถุประสงค์เพื่อออกแบบมาเพื่อต่อสู้กับการฉ้อโกง แต่จริงๆ แล้วเป็นเรื่องยากมากที่จะระบุลักษณะการฉ้อโกงตามอัลกอริทึม ดังนั้นการจะมีคะแนนการทำนายการฉ้อโกงก็เพราะว่าการฉ้อโกงต้องใช้ความตั้งใจ”รายละเอียดสมาชิกของ Quadrature du Net -และการวัดความตั้งใจจากฐานข้อมูลที่เรามีข้อมูลเกี่ยวกับสถานการณ์ทางการเงิน ส่วนบุคคล ครอบครัว และการโต้ตอบกับ CNAF นั้นค่อนข้างซับซ้อนเล็กน้อย» เขากล่าวเสริม การฉ้อโกงจะถูกระงับ และอัลกอริทึมจะได้รับการฝึกอบรมใหม่เพื่อตรวจจับการชำระเงินที่ไม่เหมาะสม เขากล่าวต่อ -หากเราลดความซับซ้อนลง ก็เพียงพอที่จะฝึกอัลกอริธึมเพื่อตรวจจับผู้คนที่ได้รับผลประโยชน์ทางสังคมขั้นต่ำ ผู้ที่ได้รับความช่วยเหลือทางสังคมซึ่งอยู่ภายใต้กฎที่ซับซ้อนมากและเรามีโอกาสสูงที่จะทำผิดพลาด» เขาอธิบาย

สำหรับ CNAF อัลกอริธึมไม่ได้กำหนดเป้าหมายไม่จำเป็นต้องเป็นคนที่ยากจนที่สุด แต่เป็นคนที่มีรายได้แตกต่างกันไป

หลังจากการเผยแพร่ซอร์สโค้ดเหล่านี้ Quadrature du Net หวังว่าในระยะกลาง จะสะท้อนถึงนโยบายการควบคุม "ซึ่งส่งผลร้ายแรงต่อมนุษย์อย่างมาก» เปิดตัวแล้ว -เป็นที่คาดหวังว่า CNAF จะลบตัวแปรที่มีความอ่อนไหวทางการเมืองมากเกินไป เช่น AAH ค่าเผื่อสำหรับผู้ใหญ่ที่มีความพิการ ขณะเดียวกันก็กำหนดเป้าหมายประชากรกลุ่มเดิมด้วยตัวแปรที่จะเข้าใจยากกว่ามากสำหรับผู้ชมทั่วไป», ประมาณการสมาชิกของการสร้างพื้นที่สี่เหลี่ยมจัตุรัส ผู้นำฝ่ายบริหารชุดนี้จะไม่สามารถซ่อนอยู่หลังอัลกอริธึมและปฏิเสธความรับผิดชอบต่อนโยบายนี้ได้อีกต่อไป” โดยสรุปได้ดังนี้ “การตรวจสอบซ้ำกับบุคคลที่ล่อแหลมที่สุด การระงับอัตโนมัติ การเรียกคืนการชำระเงินที่ค้างชำระจากผู้ที่อยู่ในสถานการณ์ที่ยากลำบากมากแล้ว... เหล่านี้คือชีวิตมนุษย์ที่ถูกบดขยี้-

ในปี 2560 นักปกป้องสิทธิได้เตือนในรายงานถึงอันตรายจากการใช้การขุดข้อมูลโดยฝ่ายบริหาร โดยชี้ให้เห็นถึงความเสี่ยงของการเลือกปฏิบัติที่อาจเกิดขึ้น -มากกว่าการกำหนดเป้าหมาย "ความเสี่ยงที่น่าสงสัย" การทำเหมืองข้อมูลบังคับให้มีการระบุประชากรที่มีความเสี่ยง และในการทำเช่นนั้น นำไปสู่การปลูกฝังความคิดที่ว่าผู้ใช้บางประเภทมีแนวโน้มที่จะกระทำการฉ้อโกงมากกว่าเขาเล่าอย่างละเอียด

และสำหรับสมาชิกของสมาคมแล้ว ความเสี่ยงและผลที่ตามมาทั้งหมดนี้ไม่คุ้มค่า -เราจำเป็นต้องชดใช้เงินจำนวนนี้จากผู้ที่ทำผิดพลาดโดยสุจริตและผู้ที่ต้องการความช่วยเหลือโดยรู้ว่าเดิมพันทางการเงินสำหรับ CNAF นั้นเป็นศูนย์หรือไม่?» เขาถาม ฝ่ายหลังพิจารณาว่าระบบสังคมฝรั่งเศสไม่ได้ถูกทำลายโดยข้อผิดพลาดของผู้รับผลประโยชน์

ในปี 2022 ศาลผู้ตรวจสอบบัญชีประเมินว่าการฉ้อโกงเพื่อผลประโยชน์ทางสังคมมีมูลค่าระหว่าง 6 ถึง 8 พันล้านยูโรต่อปี ซึ่งจำนวนเงินดังกล่าวยังคงต้องรอการยืนยัน โดยผู้พิพากษาทางการเงินชี้ให้เห็นถึงการขาดทรัพยากรในการควบคุมที่ดำเนินการภายหลัง CNAF ได้คำนวณว่าจากค่าใช้จ่ายเบี้ยเลี้ยงที่จ่ายไปแล้ว 95 พันล้านยูโร จะมีการฉ้อโกง 2.8 พันล้านยูโร รายงานเพื่อนร่วมงานของเราจากข้อมูลประเทศฝรั่งเศสปีที่แล้ว การฉ้อโกงภาษีซึ่งเป็นความจริงที่ต้องการหลีกเลี่ยงภาษีจะมีความสำคัญมากกว่ามาก - ถึงจำนวนเงิน 80 พันล้านยูโร แต่ที่นี่เช่นกัน มันเป็นคำถามของการประมาณการจากสหภาพสาธารณะ Solidaires Financesซึ่งเริ่มตั้งแต่ปี 2561

ติดต่อโดย01net.comCNAF ไม่ตอบสนองต่อคำร้องขอความคิดเห็นของเราในขณะที่เผยแพร่บทความนี้ แต่ผู้อำนวยการทั่วไปของ Caisse, Nicolas Grivel ชี้แจงว่าในการให้สัมภาษณ์กับ AFP และดำเนินเรื่องโดย Tech&Coโดยวัตถุประสงค์ของอัลกอริทึมคือการระบุผู้รับผลประโยชน์ที่มีแนวโน้มมากที่สุดที่จะทำข้อผิดพลาดในการประกาศของพวกเขา ก็จะไม่เป็นการเลือกปฏิบัติและไม่จำเป็นต้องมุ่งเป้าไปที่กลุ่มคนที่ยากจนที่สุด แต่มุ่งเป้าไปที่กลุ่มที่มีรายได้แตกต่างกัน-

และในช่วงท้ายของวันในวันอังคารที่ 28 พฤศจิกายน CNAF ได้โพสต์ทวีตยาวๆ โดยประสงค์จะกลับไปสู่ ​​“ขัดแย้งกับความจริงและการประมาณการณ์ที่แพร่สะพัด- เธออธิบายว่าอัลกอริทึม “ประกาศต่อ CNIL แล้ว» และ «สอดคล้องกับกฎหมาย» ไม่ได้ใช้สำหรับ “ติดตามผู้รับประโยชน์"แต่การระบุข้อผิดพลาดซึ่งอาจเป็น"ต่อต้านแต่ยังเป็นประโยชน์ต่อผู้รับผลประโยชน์ด้วย- -31% ของการทำให้เป็นมาตรฐานหลังการควบคุมเป็นผลดีต่อผู้รับที่ได้รับการเสริมทางการเงิน» เธอกล่าวเสริม กองทุนผลประโยชน์ประกาศ “ทำงานร่วมกับนักสังคมวิทยานักวิทยาศาสตร์ข้อมูลและผู้เชี่ยวชาญอื่นๆ เพื่อสร้างความตระหนักรู้และปรับตัวตามแนวทางปฏิบัติของอัลกอริธึมหากจำเป็น-

https://twitter.com/cnaf_actus/status/1729551188729749778

หมายเหตุบรรณาธิการ: บทความนี้ซึ่งเผยแพร่เมื่อวันที่ 28 พฤศจิกายน ได้รับการแก้ไขในวันพุธที่ 29 พฤศจิกายนนี้ ให้รวมทวีตจาก CNAF ในวันที่ 28 พฤศจิกายน (สิ้นสุดวัน)

อ่านเพิ่มเติม:การหลอกลวงทางธนาคาร: ทำไมคุณควรขอเงินคืนจากธนาคารของคุณ

🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-

แหล่งที่มา : บทความบล็อก Quadrature du Net จากวันที่ 27 พฤศจิกายน 2023