對於美國八十多歲的法蘭西斯沃特來說，一次平常的骨折和演算法讓 2019 年夏天變成了一場真正的噩夢。他的故事是一項大規模調查的起點，該調查展示了美國保險公司如何使用演算法來決定保單持有人的保險期限。
當人工智慧和健康不要混合得很好......中西部的夏天才剛開始美國85 歲的弗朗西斯沃爾特 (Frances Walter) 左肩骨折。這位獨居的八十多歲老人打電話給緊急服務部門。她被送往威斯康辛州的一家醫院，並沒有支付任何費用在那裡接受治療：她很幸運能夠成為“醫療保險優勢»，由美國一家私人保險公司管理的社會和補充保險系統。他的康復將需要很長、太長的時間。無論如何，這就是演算法由她的保險公司使用，保險公司估計患者術後住院第 16 天就可以回家。護理費用在第 17 天中斷。問題：醫學界建議至少停留三週，特別是因為老太太對止痛藥過敏，而且她的恢復速度比預期慢。八十多歲的老人也不是這麼想的，第17天仍然感到劇烈疼痛。此外，她仍然無法自己穿衣服或推助行器。
然後，病人被迫動用她的積蓄——在美國這筆錢相當於數千美元——接受治療，直到完全康復。幸運的是，這筆錢將被償還給他，但只有…一年後，經過無數程序和聯邦法官的決定。你覺得這個故事不真實嗎？然而，這件事確實發生在 2019 年夏天。 根據資訊網站 Stat News 報道，這絕不是一個孤立的案例，該網站 3 月 13 日發布了一份關於這一主題的大規模調查。
nH Predict 演算法對這些過早的護理結束負有責任嗎？
在美國，保險公司拒絕醫療索賠的情況並不罕見。但據美國媒體報道，現在人工智慧（AI）將成為這些拒絕的根源，並特別列出了“醫療保險優勢» 覆蓋全國超過 3100 萬人。某些私人保險公司負責管理這項針對 65 歲以上低收入或中等收入人群的社會保險，他們會使用預測演算法。這個人工智慧系統將決定保險公司何時可以中斷支付病人術後住院費用，令醫生和那些首先關心的人非常沮喪。如果出現分歧，患者必須預付費用、上訴並等待數月甚至數年才能獲得報銷。有些人沒有這樣的資金，就沒有照顧，例如這位來自北卡羅來納州的病人。
退休人員中風後無法轉移到術後護理中心。他的醫生布萊恩摩爾（Brian Moore）上門探望他，但未能說服他的保險公司支付這筆住院費用。 “他坐著，想吃點東西。他說：「當我選擇的時候，我並沒有想到醫療保險優勢，我無法得到我需要的護理，」他告訴我們的同事。他流著口水，哭著。»
nH Predict 遊標會走得太遠
這一切真正開始於 2020 年，當時美國最大的 Medicare Advantage 保險公司 UnitedHealth 收購了醫療數據管理公司 NaviHealth，其旗艦產品是稱為 nH Predict 的演算法。該演算法根據受保人的年齡、醫生的診斷和醫療信息，並將其與包含600 萬患者的資料庫中的類似資料進行比較，產生一份報告，描述醫療需求、預計住院時間和患者的目標出院日期。
該演算法“不用於確定醫療保險範圍»，然而 UnitedHeatlh 堅持要求，它不想回答我們同事的問題，但發布了一份新聞稿。這 ”工具» 用作“指南»，該公司補充道。這不是意見接受 Stat News 採訪的護理人員。對於後者，從 UnitedHealth 控制 nH Predict 的那一刻起，拒絕照護的情況就開始增加。該演算法是為了避免不必要的護理和超額計費而提出的，它將比前幾年走得更遠。現在，拒絕 UnitedHealthcare 和 NaviHealth 的支持已成為常態。包括當患者的病情明顯比演算法預測的更嚴重時，重症監護室主任向我們的同事報告。作為證據，根據聯邦資料庫，2020 年至 2022 年間，針對拒絕照護請求提出上訴的患者數量增加了 58%。在大多數情況下，法官會做出有利於病患的裁決並下令報銷。
呼叫人工智慧黑盒子和隱私來不挑戰演算法結果
這項調查提出的另一個問題是：演算法的不透明性。我們的同事解釋說，每次醫生或醫院院長就保險公司承保期限過短的問題尋求解釋時，答案總是相同的：人工智慧黑盒子已成為拒絕付款的通用藉口。患者方面也有同樣的情況。 89 歲的多洛雷斯·米勒姆 (Dolores Millam) 的女兒在骨折後被拒絕入住療養院，她作證說：「當您嘗試打電話與某人講道理時，當您想要得到解釋時，您最終會與位於菲律賓的服務機構交談。對他們來說，這只是一個程序問題，與細心無關」。據稱，聯合醫療保健公司隱藏在隱私權法的背後，拒絕與病患家屬進行任何討論。
另請閱讀： TikTok 的演算法如何影響我們的情緒，讓我們上癮
因為目前法律並沒有對使用演算法的保險公司施加絲毫透明度。他們既沒有被迫公開有效性研究數據，也沒有義務尊重道德行為準則──至少目前還沒有。美國立法者於 2022 年發布了人工智慧權利憲章草案，旨在保護美國公民免受人工智慧的危險或歧視性使用。但該文本目前不具約束力。在歐洲，目前歐洲議會正在討論未來的人工智慧法規，該法規規定了在健康領域使用人工智慧的非常嚴格的義務。
然而，人工智慧系統控制這一領域已經存在，但仍處於邊緣。這醫學界使用的人工智慧模型可以用來診斷癌症等，但在使用前必須獲得 FDA（相當於美國藥品安全局）的批准。那麼為什麼不採用這種對成千上萬美國人的健康產生重大影響的演算法呢？
來源 ： 統計新聞
