'有偏见的数据产生有偏见的结果':耶鲁大学研究发现医疗AI中的偏见

2024-11-25 18:22:38
来源:Newswise
语言:英语,所在国:美国
分类:医学,字数:647

在一项新的综述中,耶鲁大学的研究人员详细分析了AI开发不同阶段的偏见如何导致不良临床结果和加剧健康不平等。作者表示,他们的研究结果反映了计算机领域的老生常谈:“垃圾进,垃圾出。”

“有偏见的数据产生有偏见的结果,”耶鲁医学院(YSM)放射学与生物医学影像学助理教授、泌尿学副教授John Onofrey博士说,“这个观点绝对适用。”该文章于11月7日发表在《PLOS数字健康》上,提供了假设和真实案例,说明偏见如何影响医疗结果,并提供了缓解策略。“在机器学习/AI领域工作多年后,算法中存在偏见这一观点并不令人惊讶,”Onofrey说,“然而,列出所有可能导致偏见进入AI学习过程的方式是令人难以置信的。这使得偏见缓解看起来像是一项艰巨的任务。”

研究作者确定了医疗AI开发每个阶段的偏见来源——训练数据、模型开发、出版和实施——并为每个阶段提供了说明性案例和偏见缓解策略。在一个例子中,先前的研究发现,在估计肾功能时使用种族作为因素会导致黑人移植患者等待移植名单的时间更长。耶鲁团队指出,未来算法应使用更精确的措施,如社会经济因素和邮政编码。“在用于临床风险预测的医疗AI模型中,更好地捕捉和使用健康的社会决定因素将是至关重要的,”耶鲁医学院一年级医学生James L. Cross和该研究的第一作者说。

“偏见是一个人类问题,”放射学与生物医学影像学副教授Michael Choma博士说,“当我们谈论‘AI中的偏见’时,我们必须记住,计算机是从我们这里学习的。”


(全文结束)

声明:本文仅代表作者观点,不代表本站立场,全文内容涉及AI跨语种自动翻译。如有侵权请联系我们删除。

7日热榜
服用多少布洛芬才算过量?
35种易消化的食物(以及应限制或避免的难消化食物)
甘氨酸镁的最佳服用时间以获得最大益处,据科学所说
香蕉是肠息肉“催化剂”吗?答案在这里!
勾中指竟有这么多神奇好处?快来看!
2025年15省份将为13 - 14岁女孩免费接种HPV疫苗!
跟着张伯礼院士建议,谷雨时节这样养生最健康!
痛经难忍怎么办?红肉饮食+这些方法或能帮到你!
成年人必看!养成这些健康习惯,开启美好生活!
世界新闻
迪拜卫生局启动雄心勃勃的人工智能培训计划,推动智能医疗转型
保护加拿大患者健康信息的紧迫性
劣质关键意见领袖数据代价高昂:利用高质量数据推动生物制药创新
欧姆龙医疗捐赠4000台血压计并利用基于AI的Intellisense AFib技术推进房颤筛查
FICO与dacadoo合作,将AI驱动的精准度引入人寿保险
保护“宝贵”的加拿大健康数据免受特朗普的AI野心
矛盾性腹泻:同时经历便秘与腹泻
英国资助AI血液检测以实现早期癌症诊断