การใช้อัลกอริธึมในทางที่ผิดถูกประณามในหนังสือสำคัญ

การเดินทาง. Sara Wysocki ครูชั้นประถมศึกษาปีที่ 5 ที่ได้รับการยกย่องจากผู้บังคับบัญชาและนักเรียนของเธอ รู้สึกประหลาดใจที่ถูกเขตวอชิงตันไล่ออกในปี 2554 อัลกอริทึมที่รับผิดชอบในการกำหนดคะแนนการประเมินให้เธอได้ข้อสรุปว่าเธอไร้ความสามารถตั้งแต่สมัยเด็ก คะแนนก็ลดลงเมื่อเทียบกับปีที่แล้ว ในที่สุดเธอก็ค้นพบว่าครูที่อยู่ตรงหน้าเธอทำให้ผลลัพธ์สูงเกินจริง ซึ่งทำให้ฐานข้อมูลทั้งหมดบิดเบือน เรื่องราวนี้เป็นเพียงตัวอย่างซ้ำซากของผลกระทบอันเลวร้ายที่เกิดจากอัลกอริธึมที่ออกแบบมาไม่ดี Cathy O'Neil นักคณิตศาสตร์ชาวอเมริกัน เรียกพวกมันว่า WMD ซึ่งเป็นอัลกอริธึมการทำลายล้างทางคณิตศาสตร์

เมื่อสองปีที่แล้ว นักวิเคราะห์ผู้กลับใจและบุคคลสำคัญของ Occupy Wall Street ได้อุทิศหนังสือเกี่ยวกับแบบจำลองทางคณิตศาสตร์ที่เป็นพิษเหล่านี้อัลกอริธึม ระเบิดเวลาได้รับการยกย่องข้ามมหาสมุทรแอตแลนติกในเรื่องการมองการณ์ไกล และเพิ่งได้รับการปล่อยตัวในฝรั่งเศสในที่สุดรุ่น Les Arènesโดยมีคำนำโดย Cédric Villani ห่างไกลจากความเข้มงวดทางวิทยาศาสตร์ที่โอนอ่อนไม่ได้ซึ่งติดอยู่กับสิ่งเหล่านี้ พวกเขายังห่างไกลจากการเป็นเครื่องมือในการตัดสินใจที่เป็นกลาง บางครั้งชุดข้อมูลของพวกเขาก็ถูกปลอมแปลง เช่นเดียวกับกรณีของครูคนนี้ แต่พวกเขามักมีอคติ เหมือนกับที่ปัญญาประดิษฐ์นี้ทดสอบโดย Amazon สำหรับการรับสมัครงาน หน่วยงานสำนักข่าวรอยเตอร์เปิดเผยว่าเธอมีแนวโน้มที่จะกีดกันผู้หญิงออกจากตำแหน่งทางเทคนิค เพราะเธอได้จำลองตัวเองเป็นผู้ชายในบริษัทที่ทำงานไปแล้ว 60%

พวกเขาทำให้ผู้ที่อ่อนแอที่สุดอ่อนแอลง

อัลกอริธึมมักเกิดขึ้นจากเกณฑ์ที่มนุษย์เลือกไว้เสมอ การเลือกไม่คำนึงถึงค่าเล่าเรียนเมื่อจัดอันดับมหาวิทยาลัยในอเมริกาหมายถึงการยกย่องสถาบันที่มีราคาแพงที่สุดและเสริมสร้างความน่าดึงดูดใจให้แข็งแกร่งยิ่งขึ้นโดยไม่สร้างความเสียหายให้กับผู้อื่น อีกตัวอย่างหนึ่ง: ซอฟต์แวร์ทำนายอาชญากรรม ผลที่ตามมาคือการตรวจสอบที่เพิ่มขึ้นในละแวกใกล้เคียงที่ยากจนและการจับกุมผู้เยาว์เนื่องจากดื่มเครื่องดื่มแอลกอฮอล์ วัยรุ่นบางคนอารมณ์เสียและการปฏิเสธที่จะปฏิบัติตามทำให้พวกเขาต้องถูกกักขังทันที หากพวกเขาอาศัยอยู่ในย่านที่ร่ำรวย พวกเขาจะไม่มีวันกังวลและยังคงมีประวัติอาชญากรรมที่สะอาด

ให้เราพิจารณากรณีของแบบสอบถาม LSI-R ที่ผู้ต้องขังในเรือนจำต้องตอบทั่วมหาสมุทรแอตแลนติกเพื่อประเมินความเสี่ยงต่อการกระทำซ้ำซาก ในรัฐไอดาโฮและโคโลราโด คำตอบจะใช้ในการตัดสินประโยค อย่างไรก็ตาม หากบุคคลมีสมาชิกในครอบครัวที่มีปัญหากับกฎหมาย อัลกอริธึมก็มีแนวโน้มที่จะจัดพวกเขาให้อยู่ในกลุ่มเสี่ยงมากขึ้น จากนั้นเขาจะได้รับโทษหนักขึ้น อยู่ในคุกนานขึ้น และมีโอกาสหางานน้อยลงเมื่อได้รับการปล่อยตัว วงจรอุบาทว์ไม่ได้จบเพียงแค่นั้น“หากเขาก่ออาชญากรรมอีก การสร้างแบบจำลองการกระทำผิดซ้ำจะสามารถอวดความสำเร็จครั้งใหม่ได้ แต่ในความเป็นจริงแล้ว มันเป็นตัวแบบเองที่กระตุ้นให้เกิดวงจรที่ไม่ดีต่อสุขภาพและมีส่วนช่วยในการรักษาความเป็นจริงนี้ขีดเส้นใต้ Cathy O'Neil ดังนั้น WMD เหล่านี้จึงอาศัยข้อผิดพลาดและมีความเข้มแข็งมากขึ้นเรื่อยๆ เมื่อเวลาผ่านไป ซึ่งทำให้เกิดความไม่เท่าเทียมเพิ่มมากขึ้นและทำให้กลุ่มเปราะบางที่สุดอ่อนแอลง

เราไม่สามารถเป็นผู้ชมได้อีกต่อไป

แนวคิดนี้ไม่ได้ทำให้อัลกอริธึมทั้งหมดต้องอับอาย หลายคนปฏิบัติตามบทบาทของตนอย่างมีประสิทธิภาพโดยไม่มีผลสะท้อนกลับที่เป็นอันตราย โดยเฉพาะอย่างยิ่งหากเกี่ยวข้องกับการเอาชนะแชมป์โลก Go บางคนถึงกับให้ความสนใจโดยทั่วไปเมื่อพวกเขาประสบความสำเร็จในการตรวจจับแรงงานบังคับ เป็นต้น ปัญหาคือมีการใช้สิ่งเหล่านี้อย่างไม่เลือกหน้าในหลายพื้นที่ในช่วงเวลาสำคัญในชีวิตของผู้คน สังคมฝรั่งเศสก็กำลังเผชิญอยู่เช่นกัน พวกเขามีอิทธิพลต่อทิศทางของการศึกษาระดับอุดมศึกษากับ Parcoursup การได้รับเครดิต จำนวนประกันของเรา การสรรหาบุคลากร กำหนดเป้าหมายเราด้วยการโฆษณา และแม้แต่พยายามโน้มน้าวความคิดเห็นของเราผ่านทางโซเชียลเน็ตเวิร์ก

เป้าหมายของ Cathy O'Neil คือการเรียกเราให้รู้จักควบคุมอารมณ์: เราไม่สามารถคาดหวังให้อัลกอริธึมมาแก้ปัญหางานที่ซับซ้อน เช่น การประเมินครูได้ สิ่งที่เธอหวังก็คือเราจะก้าวไปไกลกว่าความเชื่อที่มองไม่เห็นในประสิทธิผลของพวกเขา ประชาชนจะต้องเรียกร้องความโปร่งใสเกี่ยวกับวิธีการทำงานของแบบจำลองเหล่านี้ และระมัดระวังเพื่อให้มีการประเมินซ้ำอย่างต่อเนื่อง เพื่อแก้ไขและปรับปรุง“มาเริ่มสร้างเฟรมเวิร์กตั้งแต่ตอนนี้เพื่อให้แน่ใจว่าอัลกอริธึมจะมีความรับผิดชอบในระยะยาว ให้เราสร้างพื้นฐานในการแสดงให้เห็นถึงความถูกต้องตามกฎหมาย ความเป็นธรรม และการยึดถือข้อเท็จจริง",แนะนำ Cathy ONeil เราไม่สามารถที่จะเป็นผู้ชมได้อีกต่อไป เธอสรุป หากไม่เป็นเช่นนั้น ในอนาคตเราจะต้องเชื่อฟังกล่องดำลึกลับที่จะควบคุมชีวิตส่วนใหญ่ของเราในอนาคต

อัลกอริธึม ระเบิดเวลา, Cathy O'Neil, les Arènes, 352 หน้า, 20.90 ยูโร

🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-