当护士被迫遵循算法，虽然他们知道这是一个错误...这就是华尔街日报在6月15日，关于这些人工智能工具谁帮助医疗部门的看护人。除了管理和医疗监控外，如果患者的状况突然发生变化，除了成为诊断或治疗的辅助工具外，这些软件还允许护理单位监视和启动警报。但是，在美国的一些医院中，算法会接受看护人的决定，解释我们的同事，报告说卫生专业人员被迫遵循算法的指示，即使他们坚信这是错误的。一切都将取决于所讨论的医疗结构的内部规则，这将使之成为可能，是否可以摆脱这种类型的AI建议。
因为有时候决策援助和指示之间的边界有时是微弱的，例如在加利福尼亚州的Vallejo呼叫中心工作的护士Cynthia Girtz经历了一种为患者提供建议的结构，并将他们引导到医疗服务方面。一个下午，后者接到一名前网球运动员的电话，他抱怨咳嗽，胸痛和发烧。根据所宣布的症状，护士在下降菜单中键入条目，并遵循软件的响应，该响应表明了处理和医生或服务的阶段。对于这位前运动员来说，辛西娅·吉尔茨（Cynthia Girtz）选择了咳嗽/感冒和流感标签，并邀请他在几个小时后与医生进行电话约会。邀请您快速咨询医生或急诊室的选择只有在患者吐血的情况下，我们的同事报告。
很难周围的AI建议
结果，肺炎，急性呼吸衰竭和肾衰竭仅在上诉后几天死亡的患者中被诊断为太晚。护士和她的雇主在法庭上遭到袭击，理由是看护人应该忽略算法。该公司被命令向家庭付款约300万美元。后者说，算法建议只是“分类呼叫的准则，而不是强制性指令»。她补充说，护士应该使他们适应每个患者的需求。
但是，其他护士梅利莎（Melissa）解释说，AI工具的这些建议很难绕过实践。贝贝，我们的同事接受了采访。后者在仍在美国的一个肿瘤学部门工作，他说，有一天她收到了一个警报，向她表明患者患有败血症。凭借她十五年的经验，后者知道这是一个错误。”j当我看到患者时，他可以识别患有这种感染的患者。我知道不是这样“，她向我们的同事们留下来。该患者的白细胞数量很高，但这不是由于败血症。这是另一种疾病的结果 - 患者患有白血病。
但是，这家医院的内部规则要求，如果有败血症的报告，请遵循协议。梅利莎·比贝（Melissa Beebe）不可能遵循该软件的指示，但是她必须这样做，以获得医生的批准。如果发生错误，它暴露了纪律措施。因此，她遵循了命令，并接受了血液检查，尽管这可能会使患者暴露于额外的感染。
“医院管理人员必须了解，算法有很多东西看不见”
在随后的几个小时中，对护士的诊断是正确的，算法是错误的。 “”我不会妖魔化技术。但是当我知道该怎么做，而我做不到的时候，我感到道德上的困扰“她向我们的同事们倾诉。接受采访的专家和护理人员是一致的：问题不是来自AI。相反，这项技术已使医学发展，尤其是通过分析。大量数据，它改善了某些病理的诊断。但是正是它的使用引起了问题。虽然应该仅限于对患者的评估，诊断和治疗的帮助，但有时在没有培训和没有灵活性的情况下实施了它，请写我们的同事。一些护理人员甚至说他们受到医院政府的压力，“诱人»遵循算法的建议...没有任何其他可能的选择。
另请阅读：当使用AI缩短住院时间时
问题：算法是错误的事实不会那么罕见。一项研究于2023年6月上旬发表，并由我们的同事引用表明，在接受美国护士联盟（国家护士联合）采访的1,042名毕业生中，有四分之一是该算法推荐的选择«根据患者的临床判断和活动领域，不符合患者的最大利益»。这些护理人员是否不遵循AI的建议？他们中有三分之一解释说，他们必须从医生或主管那里获得授权，以免遵循建议。另一个第三方说，他们不能贬低它，他们被迫运用算法所说的话。他们中只有17％的人说，他们被允许在没有必要的情况下克服该决定。宾夕法尼亚大学的老师肯里克·卡托教授，”l医院管理员必须了解，算法在临床环境中无法看到很多东西»。对于后者，”L'IA应作为临床决策的帮助；不应该在那里取代专家。 »»»
来源 ： 《华尔街日报》
