在2019年夏天，美国八十岁级的弗朗西斯·沃尔特（Frances Walter）变成了一场真正的噩梦。它的历史是进行大规模调查的起点，该调查显示了保险公司在美国使用算法的使用方式来决定其被保险人的照顾时间。
什么时候人工智能和健康不要很好地混合...这几乎是夏天的开始美国当85岁的弗朗西斯·沃尔特（Frances Walter）骨折时，他的左肩。独自生活的八十岁级别的人呼唤紧急情况。她被送往威斯康星州的一家医院，没有付出任何需要治疗的费用：她很幸运地成为受益人。Medicare优势»，是美国私人保险公司管理的社会保险和补充系统。他的康复时间太长，太长了。无论如何，这是什么算法由她的保险公司使用，她认为在术后逗留的第16天，患者可以回家。护理的支付在第17天被中断。问题：医学界提倡至少三周的住宿，尤其是因为老太太对止痛药过敏，她的康复速度不如预期。这不是八十岁的人的想法，谁在第17天仍然感到痛苦。此外，她仍然无法独自打扮或推动步行者。
然后，该患者被迫从她的储蓄中抽出来 - 在美国，将其增加到数千美元，直到完全康复为止。幸运的是，这笔款项将被偿还，但仅在一年后，在无数的程序和联邦法官的决定之后。您认为这个故事是不真实的吗？但是，它发生在2019年夏天。这远非孤立的案例，该案件新闻网站于3月13日发布了有关此主题的大量调查。
NH预测算法为这些过早护理的目的负责吗？
在美国，保险公司拒绝报销医疗费用的请求并不少见。但是，美国媒体报道说，现在将是人工智能（AI）的起源。Medicare优势该国覆盖了超过3100万人。一些私人保险公司管理该社会保险，旨在为65岁以上的低收入或中等收入，将使用预测算法。这个AI系统将决定当保险公司可以中断患者术后住宿的支付时，令医生和第一个有关的人感到恼火。如果出现分歧，患者必须提出费用，打电话并等待数月甚至数年，才希望得到报销。有些人没有这样的款项，没有小心，例如来自卡罗琳·诺德（Caroline du Nord）的病人。
中风后无法将退休人员转移到术后护理中心。他的医生布莱恩·摩尔（Brian Moore）在他的家中拜访了他，未能说服他的保险公司向他付款。 “”他坐着，他想吃。他说：“我没有想到，当我选择Medicare优势，我无法得到我需要的照顾，”他告诉我们的同事。他在流口水和哭泣。»»
NH预测光标会走得太远
它本来可以始于2020称为NH预测的算法。根据年龄，医生的诊断和医疗信息来自被保险人，并将其与600万患者的数据库中的类似概况进行比较，该算法提出了一份报告，其中描述了医疗需求，估计的住院时间以及患者的目标日期。
这个算法”不用于确定医疗保险»然而，他坚持认为联合有的人不想回答我们的同事的问题，但他发表了新闻稿。这 ”工具“被用作”指南“加上公司。这不是意见统计新闻采访的护理人员。对于后者而言，从联合国健康预测的那一刻起，护理的拒绝将开始繁殖。作为避免不必要的护理和过度收费的一种手段，该算法将比往年走得更远。而现在，拒绝联合医疗保健和Navihealth的管理将成为标准。包括何时患者显然比算法提供的病得多，向我们的同事报告了一家强化后护理机构的主任。作为证明，根据联邦数据库，在2020年至2022年之间，拒绝拒绝护理请求的患者人数增加了58％。在大多数情况下，法官决定支持患者，并命令退款。
AI黑匣子和对隐私的保护被调用，以免对算法的结果进行质疑
这项调查提出的另一个问题：算法的不透明度。每当医院医生或董事要求在保险公司过度的护理时间内提出解释时，答案总是相同的：AI黑匣子已成为证明拒绝付款的普遍借口，请解释我们的同事。在患者侧面相同的拓扑。现年89岁的多洛雷斯·米拉姆（Dolores Millam）的女儿在骨折后被拒绝在医疗保健中心住宿，他作证：”当您尝试与某人打电话和推理时，当您想解释时，您最终会与菲律宾的服务交谈。对于他们来说，这只是一个程序问题，与关心无关»。 UnitedHealthCare将避开隐私法律，以拒绝与患者家庭进行任何讨论。
另请阅读： Tiktok的算法如何发挥我们的情绪，使我们添加
因为目前，法律尚未对使用算法的保险公司施加丝毫透明度。他们既不被迫公开效率研究数据，也没有被迫尊重道德行为准则 - 至少至少还没有。这位美国立法者的确在2022年发表了《 AI权利宪章》项目，该项目旨在保护美国公民免受AI的危险或歧视性使用。但是，此文本目前尚未限制。在欧洲，目前在欧洲议会中讨论的人工智能的未来法规在健康中使用了AI时提供了非常严格的义务。
但是，对该部门的人工智能系统的控制已经存在，但在边缘。这医学界使用的AI模型，例如允许诊断癌症的诊断，在使用之前，应由FDA（美国药物安全局的FDA批准）。那么，为什么不对成千上万美国人的健康产生重要的后果不仅具有重要的后果呢？
来源 ： STAT新闻
