'有偏见的数据产生有偏见的结果':耶鲁大学研究发现医疗AI中的偏见

2024-11-25 18:22:38
来源:Newswise
语言:英语,所在国:美国
分类:医学,字数:647

在一项新的综述中,耶鲁大学的研究人员详细分析了AI开发不同阶段的偏见如何导致不良临床结果和加剧健康不平等。作者表示,他们的研究结果反映了计算机领域的老生常谈:“垃圾进,垃圾出。”

“有偏见的数据产生有偏见的结果,”耶鲁医学院(YSM)放射学与生物医学影像学助理教授、泌尿学副教授John Onofrey博士说,“这个观点绝对适用。”该文章于11月7日发表在《PLOS数字健康》上,提供了假设和真实案例,说明偏见如何影响医疗结果,并提供了缓解策略。“在机器学习/AI领域工作多年后,算法中存在偏见这一观点并不令人惊讶,”Onofrey说,“然而,列出所有可能导致偏见进入AI学习过程的方式是令人难以置信的。这使得偏见缓解看起来像是一项艰巨的任务。”

研究作者确定了医疗AI开发每个阶段的偏见来源——训练数据、模型开发、出版和实施——并为每个阶段提供了说明性案例和偏见缓解策略。在一个例子中,先前的研究发现,在估计肾功能时使用种族作为因素会导致黑人移植患者等待移植名单的时间更长。耶鲁团队指出,未来算法应使用更精确的措施,如社会经济因素和邮政编码。“在用于临床风险预测的医疗AI模型中,更好地捕捉和使用健康的社会决定因素将是至关重要的,”耶鲁医学院一年级医学生James L. Cross和该研究的第一作者说。

“偏见是一个人类问题,”放射学与生物医学影像学副教授Michael Choma博士说,“当我们谈论‘AI中的偏见’时,我们必须记住,计算机是从我们这里学习的。”


(全文结束)

声明:本文仅代表作者观点,不代表本站立场,全文内容涉及AI跨语种自动翻译。如有侵权请联系我们删除。

7日热榜
国家卫健委发布减肥指南,各地区专属食谱大揭秘!
想提高睡眠质量?试试这些综合方法!
甘氨酸镁的最佳服用时间以获得最大益处,据科学所说
各年龄段最佳睡眠时长,你睡对了吗?
35种易消化的食物(以及应限制或避免的难消化食物)
黄金12秒地震保命指南,学会这些方法关键时刻能救命!
新报告发现41种婴儿配方奶粉中有34种含有毒素——你需要知道的信息
心源性猝死保命指南:识别征兆、预防及急救要点!
40岁女性生育别怕!做好这些要点实现健康生育
甲流一周内可能发展成病毒性肺炎?这些症状要警惕
世界新闻
肠道微生物组干预可能阻止1型糖尿病的发展
公民科学家助力遗传学家和微生物学家应对大规模挑战
放屁的气味揭示了肠道内的情况
新癌症研究强调酸奶的益处,但如果是无乳制品呢?
皮肤益生菌真的有效吗?
皮肤微生物如何影响免疫、炎症和慢性皮肤病
女子指责医生使用ChatGPT获取血液检测建议
西奈山启动AI中心以革新小分子药物发现