德克萨斯州奥斯汀—— 医生越来越多地被要求使用AI系统来帮助诊断患者，但当出现错误时，他们却要承担责任。新的研究表明，医生陷入了一个不可能的困境：使用AI以避免错误，但当同样的AI失败时，他们要承担所有责任。这个“超人困境”是一个没有人谈论的医疗危机。
发表在《JAMA Health Forum》上的新研究解释了人工智能在医疗领域的快速部署如何为医生创造了一个不可能的局面。虽然AI承诺减少医疗错误和医生的职业倦怠，但它可能通过将不切实际的负担放在医生身上而使这两个问题恶化。
德克萨斯大学奥斯汀分校的研究人员发现，医疗机构采用AI技术的速度远远快于法规和法律标准的发展速度。这种监管差距迫使医生承担巨大的负担：他们必须依靠AI来减少错误，同时还要完全负责确定这些系统何时可能会出错。
研究表明，当医生受到AI建议时，普通人会赋予他们更大的道德责任，而不是当他们受到人类同事的指导时。即使有明确证据表明AI系统产生了错误信息，人们仍然会责怪人类医生。
医生常常被视为超人。人们期望他们具备非凡的心理、身体和道德能力。这些期望远远超出了任何人的合理范围。
AI系统在医疗领域用于支持医生，但有时只会增加压力。
（照片由国家癌症研究所提供）
医生在与AI系统合作时面临复杂的挑战。他们必须在“假阳性”（过于信任错误的AI指导）和“假阴性”（不信任正确的AI建议）之间找到平衡。这种平衡行为发生在相互竞争的压力下。
医疗机构经常提倡基于证据的决策，鼓励医生将AI系统视为客观的数据解释者。这可能导致对有缺陷工具的过度依赖。与此同时，医生也感到压力，需要相信自己的经验和判断，即使AI系统在某些任务上可能表现更好。
增加复杂性的是“黑箱”问题。许多AI系统在提供推荐时并不解释其推理过程。即使系统变得更加透明，医生和AI处理决策的方式也不同。AI从大量数据集中识别统计模式，而医生则依赖推理、经验和直觉，通常关注患者的特定情况。
这些期望的影响不仅影响患者护理，还影响医生的福祉。其他高压领域的研究表明，承受不切实际期望的员工往往会犹豫不决，担心受到批评。同样，医生可能会变得过于谨慎，只在AI的建议符合既定护理标准时才信任AI。
这种防御性的方法会带来自己的问题。随着AI系统的改进，过度谨慎越来越难以证明，特别是当拒绝合理的AI建议导致更糟糕的患者结果时。医生可能会更频繁地质疑自己，从而可能增加医疗错误。
除了患者护理之外，这些期望还会对心理造成影响。研究表明，即使是非常积极的专业人士也难以在持续的不切实际压力下保持参与度。这可能会损害护理质量和医生的目标感。
解决方案不仅仅是让AI系统更加值得信赖。医疗机构需要为医生提供技能和策略，以有效地校准他们的信任。
实用的方法包括：
未来的医生不可避免地会与AI合作，但他们不应该独自承担这一负担。通过创建共享责任、优先培训且不要求完美无缺的环境，我们可以确保人工智能增强而不是削弱始终处于良好医疗核心的人类智能。
(全文结束)
声明：本文仅代表作者观点，不代表本站立场，全文内容涉及AI跨语种自动翻译。如有侵权请联系我们删除。