研究表明，医疗保健中有偏见的AI可能会误导临床医生

AI越来越多地整合到医疗保健系统中，有望提高诊断准确性并改善患者护理。但是，一项开创性的研究揭示了医疗保健中AI的令人不安的方面：偏见时误导临床医生的潜力（通过医疗xpress）。

人工智能对医疗保健专业人员的影响

这学习由密歇根大学的研究人员领导的跨学科团队进行的，深入研究了人工智能和临床决策的交集。

他们的主要关心？检查AI模型对医疗保健专业人员诊断准确性的影响。令人惊讶的是，结果并不简单。 AI模型表现出双重性质 - 有益和诅咒。

一方面，标准AI模型在临床医生的诊断准确性中表现出适度的增强。当向临床医生提供AI解释时，与基线情景相比，其准确性增加了4.4％。这个启示暗示了AI增加临床医生的决策过程的潜力。

令人震惊的发现

但是，在研究偏见的AI模型时，该研究发生了较暗的转变。这些模型充满了系统的错误，带来了重大风险。

他们导致临床医生诊断准确性降低11.3％，表明AI在医疗保健中的负面影响。

珍娜·维恩斯（Jenna Wiens）博士是计算机科学与工程学副教授，也是该研究的共同培训之一，对发现不满意。

她解释说，偏见的AI模型可以扩大医疗保健系统中的现有偏见，从而加剧患者护理中的差异。

研究人员创建了涉及患有急性呼吸衰竭的患者的场景，这种病情以其诊断复杂性而臭名昭著。

临床医生，包括住院医生，护士从业人员和医师助理，负责在有或没有人工智能的帮助下诊断这些病例。

仔细看

该研究的关键方面是AI解释的作用。尽管它们伴随着AI的预测，但这些解释未能纠正偏见的AI模型的负面影响。

莎拉·贾布尔（Sarah Jabbour），博士学位计算机科学和工程学和该研究的第一作者的候选人强调，需要更好地与临床医生进行有效交流AI决策的工具。

贾布尔说：“问题在于临床医生必须了解解释的交流和解释本身。”

此外，该研究强调了监管监督在AI驱动的医疗工具中的重要性。美国食品和药物管理局（FDA）已发布指南，以确保医疗保健中使用的AI模型中的透明度和解释性。目的是使临床医生能够审查和理解AI驱动决策背后的逻辑，从而减轻潜在风险。

该研究的含义在整个医疗保健领域中回荡。它提出了有关将AI安全整合到临床实践中的紧急问题，因此需要进一步研究和开发没有偏见的万无一失的AI模型。

对医疗保健专业人员的AI和偏见的强大教育计划的需求也得到了强调。

保持在Tech Times。