对于美国八十多岁的弗朗西斯·沃尔特来说，一次平常的骨折和一种算法让 2019 年夏天变成了一场真正的噩梦。他的故事是一项大规模调查的起点，该调查展示了美国保险公司如何使用算法来决定保单持有人的保险期限。
当人工智能和健康不要混合得很好......中西部的夏天才刚刚开始美国85 岁的弗朗西斯·沃尔特 (Frances Walter) 左肩骨折。这位独居的八十多岁老人打电话给紧急服务部门。她被送往威斯康星州的一家医院，并没有支付任何费用在那里接受治疗：她很幸运能够成为“医疗保险优势»，由美国一家私人保险公司管理的社会和补充保险系统。他的康复将需要很长、太长的时间。无论如何，这就是算法由她的保险公司使用，保险公司估计患者术后住院第 16 天就可以回家。护理费用在第 17 天中断。问题：医学界建议至少停留三周，特别是因为老太太对止痛药过敏，而且她的恢复速度比预期要慢。八十多岁的老人也不是这么想的，第17天仍然感到剧烈疼痛。此外，她仍然无法自己穿衣服或推助行器。
然后，病人被迫动用她的积蓄——在美国这笔钱相当于数千美元——接受治疗，直到完全康复。幸运的是，这笔钱将被偿还给他，但只有……一年后，经过无数程序和联邦法官的决定。你觉得这个故事不真实吗？然而，这件事确实发生在 2019 年夏天。据信息网站 Stat News 报道，这绝不是一个孤立的案例，该网站 3 月 13 日发布了一份关于这一主题的大规模调查。
nH Predict 算法对这些过早的护理结束负有责任吗？
在美国，保险公司拒绝医疗索赔的情况并不罕见。但据美国媒体报道，现在人工智能（AI）将成为这些拒绝的根源，并特别列出了“医疗保险优势» 覆盖全国超过 3100 万人。某些私人保险公司负责管理这项针对 65 岁以上低收入或中等收入人群的社会保险，他们会使用预测算法。这个人工智能系统将决定保险公司何时可以中断支付患者术后住院费用，令医生和那些首先关心的人非常沮丧。如果出现分歧，患者必须预付费用、上诉并等待数月甚至数年才能获得报销。有些人没有这样的资金，就没有照顾，比如这位来自北卡罗来纳州的病人。
退休人员中风后无法转移到术后护理中心。他的医生布莱恩·摩尔（Brian Moore）上门探望他，但未能说服他的保险公司支付这次住院费用。 “他坐着，想吃点东西。他说：“当我选择的时候，我并没有想到医疗保险优势，我无法得到我需要的护理，”他告诉我们的同事。他流着口水，哭着。»
nH Predict 光标会走得太远
这一切真正开始于 2020 年，当时美国最大的 Medicare Advantage 保险公司 UnitedHealth 收购了医疗数据管理公司 NaviHealth，其旗舰产品是称为 nH Predict 的算法。该算法根据受保人的年龄、医生的诊断和医疗信息，并将其与包含 600 万患者的数据库中的类似资料进行比较，生成一份报告，描述医疗需求、预计住院时间和患者的目标出院日期。
该算法“不用于确定医疗保险范围»，然而 UnitedHeatlh 坚持要求，它不想回答我们同事的问题，但发布了一份新闻稿。这 ”工具» 用作“指南»，该公司补充道。这不是意见接受 Stat News 采访的护理人员。对于后者，从 UnitedHealth 控制 nH Predict 的那一刻起，拒绝护理的情况就开始增加。该算法是为了避免不必要的护理和超额计费而提出的，它将比前几年走得更远。现在，拒绝 UnitedHealthcare 和 NaviHealth 的支持已成为常态。包括当患者的病情明显比算法预测的更严重时，重症监护室主任向我们的同事报告。作为证据，根据联邦数据库，2020 年至 2022 年间，针对拒绝护理请求提出上诉的患者数量增加了 58%。在大多数情况下，法官会做出有利于患者的裁决并下令报销。
调用人工智能黑匣子和隐私来不挑战算法结果
这项调查提出的另一个问题是：算法的不透明性。我们的同事解释说，每次医生或医院院长就保险公司承保期限过短的问题寻求解释时，答案总是相同的：人工智能黑匣子已成为拒绝付款的通用借口。患者方面也有同样的情况。 89 岁的多洛雷斯·米勒姆 (Dolores Millam) 的女儿在骨折后被拒绝入住疗养院，她作证说：“当您尝试打电话与某人讲道理时，当您想要得到解释时，您最终会与位于菲律宾的服务机构交谈。对他们来说，这只是一个程序问题，与细心无关”。据称，联合医疗保健公司隐藏在隐私法的背后，拒绝与患者家属进行任何讨论。
另请阅读： TikTok 的算法如何影响我们的情绪，让我们上瘾
因为目前法律并没有对使用算法的保险公司施加丝毫透明度。他们既没有被迫公开有效性研究数据，也没有义务尊重道德行为准则——至少目前还没有。美国立法者于 2022 年发布了人工智能权利宪章草案，旨在保护美国公民免受人工智能的危险或歧视性使用。但该文本目前不具有约束力。在欧洲，目前欧洲议会正在讨论未来的人工智能法规，该法规规定了在健康领域使用人工智能的非常严格的义务。
然而，人工智能系统控制这一领域已经存在，但还处于边缘。这医学界使用的人工智能模型可以用来诊断癌症等，但在使用之前必须获得 FDA（相当于美国药品安全局）的批准。那么为什么不采用这种对成千上万美国人的健康产生重大影响的算法呢？
来源 ： 统计新闻
