การแตกหักซ้ำซากและอัลกอริทึมได้เปลี่ยนฤดูร้อนปี 2019 ของฟรานเซส วอลเตอร์ ชาวอเมริกันวัยแปดขวบให้กลายเป็นฝันร้ายอย่างแท้จริง เรื่องราวของเขาเป็นจุดเริ่มต้นของการสืบสวนครั้งใหญ่ซึ่งแสดงให้เห็นว่าบริษัทประกันภัยในสหรัฐอเมริกาใช้อัลกอริทึมเพื่อตัดสินใจเกี่ยวกับระยะเวลาความคุ้มครองสำหรับผู้ถือกรมธรรม์ของตนอย่างไร
เมื่อปัญญาประดิษฐ์และสุขภาพผสมไม่เข้ากัน... มิดเวสต์เพิ่งจะเริ่มต้นฤดูร้อนเท่านั้นสหรัฐอเมริกาเมื่อฟรานเซส วอลเตอร์ วัย 85 ปี ไหล่ซ้ายหัก ชายวัย 80 ปีที่อาศัยอยู่ตามลำพังโทรหาบริการฉุกเฉิน เธอถูกส่งตัวไปโรงพยาบาลในรัฐวิสคอนซิน และไม่ต้องจ่ายค่าธรรมเนียมใด ๆ เพื่อรับการรักษาที่นั่น เธอโชคดีพอที่จะเป็นผู้รับผลประโยชน์จาก "ข้อได้เปรียบด้านเมดิแคร์» ซึ่งเป็นระบบประกันสังคมและประกันเสริมที่จัดการโดยบริษัทประกันเอกชนในสหรัฐอเมริกาการฟื้นตัวของเขาจะยาวนานเกินไป ไม่ว่าในกรณีใดนี่คือสิ่งที่อัลกอริทึมซึ่งบริษัทประกันของเธอใช้ ซึ่งประเมินว่าในวันที่ 16 ของการเข้าพักหลังผ่าตัด ผู้ป่วยสามารถกลับบ้านได้ การชำระค่ารักษาถูกระงับในวันที่ 17 ปัญหา: แพทย์แนะนำให้พักอย่างน้อย 3 สัปดาห์ เนื่องจากหญิงชราแพ้ยาแก้ปวดและฟื้นตัวได้เร็วกว่าที่คาด และนั่นไม่ใช่สิ่งที่คนอายุแปดขวบคิดเช่นกันซึ่งวันที่ 17 ยังรู้สึกเจ็บปวดแสนสาหัส นอกจากนี้เธอยังไม่สามารถแต่งตัวหรือเข็นอุปกรณ์ช่วยเดินได้
จากนั้น ผู้ป่วยจึงถูกบังคับให้ทุ่มเงินออมของเธอ ซึ่งคิดเป็นเงินหลายพันดอลลาร์ในสหรัฐอเมริกา เพื่อรับการรักษาจนกว่าเธอจะฟื้นตัวได้อย่างสมบูรณ์ โชคดีที่เงินจำนวนนี้จะได้รับการชดเชยให้กับเขา แต่เพียง... หนึ่งปีต่อมา หลังจากกระบวนการนับไม่ถ้วนและการตัดสินของผู้พิพากษาของรัฐบาลกลาง คุณคิดว่าเรื่องราวนี้ไม่เป็นจริงหรือไม่? อย่างไรก็ตาม เหตุการณ์ดังกล่าวเกิดขึ้นในช่วงฤดูร้อนปี 2019 และมันก็ยังห่างไกลจากการเป็นกรณีที่โดดเดี่ยว รายงานจากเว็บไซต์ข้อมูล Stat News ซึ่งเผยแพร่เมื่อวันที่ 13 มีนาคม ซึ่งเป็นการสำรวจอย่างกว้างขวางในหัวข้อนี้
อัลกอริธึมการทำนาย nH รับผิดชอบการสิ้นสุดการดูแลก่อนกำหนดเหล่านี้หรือไม่
ในสหรัฐอเมริกา ไม่ใช่เรื่องแปลกที่บริษัทประกันภัยจะปฏิเสธการเรียกร้องค่ารักษาพยาบาล แต่ตอนนี้มันจะเป็นปัญญาประดิษฐ์ (AI) ซึ่งจะเป็นที่มาของการปฏิเสธเหล่านี้ สื่ออเมริกันรายงาน โดยเฉพาะอย่างยิ่งแสดงรายการกรณีของผู้รับผลประโยชน์จาก “ข้อได้เปรียบด้านเมดิแคร์» ซึ่งครอบคลุมประชากรมากกว่า 31 ล้านคนในประเทศ บริษัทประกันเอกชนบางรายที่จัดการประกันสังคมนี้สำหรับผู้มีอายุ 65 ปีขึ้นไปโดยมีรายได้น้อยหรือปานกลาง จะใช้อัลกอริธึมการทำนาย- ระบบ AI นี้จะเป็นตัวกำหนดเมื่อผู้ประกันตนสามารถขัดจังหวะการจ่ายเงินค่าเข้าพักผู้ป่วยหลังผ่าตัดได้สร้างความตกใจให้กับแพทย์และผู้ที่เกี่ยวข้องเป็นอันดับแรก ในกรณีที่ไม่เห็นด้วย ผู้ป่วยจะต้องทดค่าใช้จ่าย อุทธรณ์และรอเป็นเดือนหรือเป็นปี เพื่อหวังว่าจะได้รับเงินคืน บางคนที่ไม่มีเงินทุนก็ไปโดยไม่สนใจเหมือนผู้ป่วยรายนี้จากนอร์ธแคโรไลนา
ผู้เกษียณอายุไม่สามารถถูกย้ายไปที่ศูนย์ดูแลหลังการผ่าตัดหลังจากเกิดโรคหลอดเลือดสมองได้ Brian Moore แพทย์ของเขา ไปเยี่ยมเขาที่บ้าน แต่ไม่สามารถโน้มน้าวให้บริษัทประกันของเขาจ่ายค่าเข้าพักครั้งนี้ได้ -เขากำลังนั่งพยายามหาอาหารให้ตัวเอง เขากล่าวว่า: “ฉันไม่คิดว่าเมื่อฉันเลือกสำหรับข้อได้เปรียบด้านเมดิแคร์จนฉันไม่สามารถรับการดูแลที่ต้องการได้” เขาบอกกับเพื่อนร่วมงานของเราเขาน้ำลายไหลและร้องไห้-
เคอร์เซอร์ทำนาย nH ไปไกลเกินไป
ทุกอย่างเริ่มต้นจริงๆ ในปี 2020 เมื่อ UnitedHealth ซึ่งเป็นบริษัทประกันภัย Medicare Advantage รายใหญ่ที่สุดของประเทศ ได้ซื้อ NaviHealth ซึ่งเป็นบริษัทจัดการข้อมูลทางการแพทย์ที่มีผลิตภัณฑ์หลักคืออัลกอริธึมที่เรียกว่า nH Predict จากอายุของผู้เอาประกันภัย การวินิจฉัยของแพทย์ และข้อมูลทางการแพทย์ และเปรียบเทียบกับโปรไฟล์ที่คล้ายกันในฐานข้อมูลผู้ป่วย 6 ล้านคน อัลกอริธึมจะสร้างรายงานที่อธิบายความต้องการทางการแพทย์ ระยะเวลาในการพักรักษาในโรงพยาบาลโดยประมาณ และวันที่ออกจากโรงพยาบาลเป้าหมายของผู้ป่วย
อัลกอริทึมนี้”ไม่ได้ใช้เพื่อกำหนดความคุ้มครองทางการแพทย์», ยังยืนกราน UnitedHeatlh ซึ่งไม่ต้องการตอบคำถามของเพื่อนร่วมงานของเรา แต่ได้เผยแพร่ข่าวประชาสัมพันธ์ นี้ "เครื่องมือ» ใช้เป็น “คู่มือ», เพิ่มบริษัท. นี่ไม่ใช่ความคิดเห็นของผู้ดูแลที่สัมภาษณ์โดย Stat News ในระยะหลัง การปฏิเสธการดูแลเริ่มทวีคูณนับตั้งแต่วินาทีที่ UnitedHealth เข้าควบคุม nH Predict อัลกอริธึมซึ่งนำเสนอเป็นวิธีหลีกเลี่ยงการดูแลที่ไม่จำเป็นและการเรียกเก็บเงินเกินควรจะยิ่งไปไกลกว่าปีที่แล้ว และตอนนี้ การปฏิเสธการสนับสนุนจาก UnitedHealthcare และ NaviHealth กลายเป็นเรื่องปกติไปแล้วรวมถึงเวลาที่ผู้ป่วยมีอาการป่วยมากกว่าที่อัลกอริธึมคาดการณ์ไว้อย่างชัดเจนรายงานผู้อำนวยการของสถานดูแลหลังวิกฤตให้เพื่อนร่วมงานของเราทราบ เพื่อเป็นการพิสูจน์ จำนวนผู้ป่วยที่อุทธรณ์ระหว่างปี 2020 ถึง 2022 เพื่อคัดค้านการปฏิเสธคำขอรับการรักษา เพิ่มขึ้น 58% ตามฐานข้อมูลของรัฐบาลกลาง และในกรณีส่วนใหญ่ ผู้พิพากษาจะตัดสินให้ผู้ป่วยเห็นชอบและสั่งการชดใช้
กล่องดำ AI และความเป็นส่วนตัวถูกเรียกใช้เพื่อไม่ให้ท้าทายผลลัพธ์ของอัลกอริทึม
ปัญหาอีกประการหนึ่งที่เกิดขึ้นจากการตรวจสอบครั้งนี้: ความทึบของอัลกอริทึม ทุกครั้งที่แพทย์หรือผู้อำนวยการโรงพยาบาลขอคำอธิบายเกี่ยวกับระยะเวลาความคุ้มครองที่สั้นเกินไปจากบริษัทประกันภัย คำตอบจะเหมือนเดิมเสมอ: กล่องดำ AI ได้กลายเป็นข้อแก้ตัวทั่วไปในการพิสูจน์เหตุผลของการปฏิเสธการชำระเงิน อธิบายเพื่อนร่วมงานของเรา เรื่องเดียวกันในด้านผู้ป่วย ลูกสาวของโดโลเรส มิลแลม วัย 89 ปี ซึ่งถูกปฏิเสธการดูแลให้อยู่ในบ้านพักคนชราหลังกระดูกหัก ให้การเป็นพยาน: “เมื่อคุณพยายามโทรและหาเหตุผลกับใครสักคน เมื่อคุณต้องการคำอธิบาย คุณจะจบลงด้วยการพูดคุยกับผู้ให้บริการที่อยู่ในฟิลิปปินส์ สำหรับพวกเขา มันเป็นเพียงเรื่องขั้นตอนที่ไม่เกี่ยวข้องกับความเอาใจใส่- UnitedHealthcare ถูกกล่าวหาว่าซ่อนอยู่เบื้องหลังกฎหมายความเป็นส่วนตัวเพื่อปฏิเสธการสนทนาใด ๆ กับครอบครัวของผู้ป่วย
อ่านเพิ่มเติม: อัลกอริทึมของ TikTok ส่งผลต่ออารมณ์ของเราอย่างไรเพื่อให้เราติด
เนื่องจากในขณะนี้ กฎหมายไม่ได้กำหนดความโปร่งใสแม้แต่น้อยให้กับบริษัทประกันภัยที่ใช้อัลกอริทึม พวกเขาไม่ถูกบังคับให้เปิดเผยข้อมูลการศึกษาด้านประสิทธิผลต่อสาธารณะ และไม่จำเป็นต้องเคารพจรรยาบรรณทางจริยธรรม อย่างน้อยก็ในตอนนี้ สมาชิกสภานิติบัญญัติแห่งสหรัฐอเมริกาได้ตีพิมพ์ร่างกฎบัตรสิทธิ AI ในปี 2022 ซึ่งมีเป้าหมายเพื่อปกป้องพลเมืองอเมริกันจากการใช้ AI ที่เป็นอันตรายหรือเลือกปฏิบัติ แต่ข้อความนี้ไม่ได้มีผลผูกพันในขณะนี้ ในยุโรปเช่นกัน กฎระเบียบในอนาคตเกี่ยวกับปัญญาประดิษฐ์ ซึ่งขณะนี้อยู่ระหว่างการอภิปรายในรัฐสภายุโรป ได้กำหนดพันธกรณีที่เข้มงวดมากในกรณีที่มีการใช้ AI ด้านสุขภาพ
อย่างไรก็ตาม การควบคุมระบบปัญญาประดิษฐ์ในภาคส่วนนี้มีอยู่แล้ว แต่อยู่ในระดับขอบ ที่แบบจำลอง AI ที่ใช้โดยวงวิชาชีพแพทย์ ซึ่งทำให้สามารถวินิจฉัยโรคมะเร็งได้ ต้องได้รับการอนุมัติจาก FDA ก่อนการใช้งาน ซึ่งเทียบเท่ากับสำนักงานความปลอดภัยด้านยาในสหรัฐอเมริกา แล้วทำไมไม่ลองใช้อัลกอริธึมนี้ ซึ่งมีผลกระทบมากกว่าสำคัญต่อสุขภาพของชาวอเมริกันหลายพันคนล่ะ?
🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : ข่าวสถิติ