当护士被迫遵循护士的指示时算法，即使他们知道这是一个错误......这就是华尔街日报6月15日，关于这些人工智能工具谁帮助医疗部门的护理人员。除了行政和医疗监控之外，该软件除了作为辅助诊断或治疗的工具外，还可以在护理单位监控患者病情突然变化并发出警报。但在美国的某些医院，算法会接管护理人员的决定，我们的同事解释说，报告了卫生专业人员被迫遵循算法指示的情况，即使他们确信这是一个错误。一切都取决于相关医疗结构的内部规则，这将使自己能够或不能摆脱此类人工智能的建议。
因为决策支持和遵循的指示之间的界限有时很脆弱，就像加州瓦列霍呼叫中心的护士辛西娅·吉尔茨(Cynthia Girtz)所经历的那样，这种结构为患者提供建议并指导他们接受医疗服务。一天下午，后者接到一位前网球运动员的电话，他抱怨咳嗽，胸痛和发烧。根据报告的症状，护士在下拉菜单中输入条目并遵循软件响应，这些响应指示治疗步骤以及要咨询哪些医生或服务。对于这位前运动员，辛西娅·吉尔茨选择了咳嗽/感冒和流感标签，并邀请他在几个小时后与医生进行电话预约。我们的同事报告说，只有当病人咳血时，才能选择邀请您快速咨询医生或急诊室。
难以规避的人工智能建议
结果，这名患者被确诊为肺炎、急性呼吸衰竭和肾衰竭，但为时已晚，他在接到电话后几天就去世了。护士和她的雇主被起诉，理由是护理人员应该推翻算法。该公司被责令向该家庭支付约 300 万美元。然而，后者宣称算法建议只是“呼叫分类指南，而非强制性指南”。她补充说，护士应该根据每个病人的需求定制它们。
然而，另一位护士 Melissa 解释说，人工智能工具的这些建议在实践中很难规避毕比，接受我们同事的采访。后者仍在美国的一个肿瘤科工作，她说有一天她收到一条警报，告诉她一名患者患有败血症。后者以十五年的经验，深知这是一个错误：“J当我看到一位病人时，我就知道他患有这种感染。我知道事实并非如此»，她向我们的同事吐露心声。该患者的白细胞计数升高，但这并不是由于败血症。这是另一种疾病的结果——患者患有白血病。
然而，该护士解释说，该医院的内部规则要求，如果报告败血症，则必须遵守协议。梅丽莎·毕比本可以不遵循软件的说明，但她必须获得医生的批准才能这样做。一旦出现失误，她就会受到纪律处分。因此，她遵照命令，采集了病人的血液，尽管这可能会使病人进一步受到感染。
“医院管理者需要明白，有很多事情是算法无法看到的”
在接下来的几个小时里，护士的诊断被证明是正确的，但算法是错误的。 “我并不妖魔化技术。但当我知道该做什么却做不到时，我会感到道德上的困扰»，她向我们的同事吐露心声。接受采访的专家和护理人员一致认为：问题并非来自人工智能。相反，这项技术促进了医学的进步，特别是通过分析海量数据，它改进了某些病理的诊断。但它的使用却带来了问题。我们的同事写道，虽然它应该仅限于帮助患者评估、诊断和治疗，但有时在未经培训且缺乏灵活性的情况下实施。一些护理人员甚至声称他们迫于医院管理部门的压力，“邀请» 遵循算法的建议......没有其他可能的选择。
另请阅读：当人工智能被用来缩短住院时间
问题：算法出错的情况并不少见。我们的同事引用了 2023 年 6 月上旬发表的一项研究，显示，在美国护士工会（全国护士联合会）调查的 1,042 名注册护士中，有四分之一的人选择了算法推荐的选择«根据患者的临床判断和实践范围，不符合患者的最佳利益”。难道这些护理人员没有遵循人工智能的建议吗？其中三分之一的人解释说，他们必须获得医生或主管的授权才能不遵循建议。另有三分之一的人表示，他们不能偏离它，他们被迫应用算法所说的内容。只有 17% 的人表示，他们可以推翻该决定，无需批准。对于宾夕法尼亚大学教授肯里克·卡托（Kenrick Cato）来说，“我医院管理人员需要了解算法在临床环境中无法看到的很多东西”。对于后者，“我'人工智能必须用作临床决策辅助；它不应该取代专家。 »
来源 ： 华尔街日报
