这位医生表示他可以让医疗保健中的人工智能更安全

人工智能正在迅速发展，并改变医生为患者提供护理的方式。如何确保这些新的AI工具是安全的？Dr. Brian Anderson表示他有答案。

嘉宾

Dr. Brian Anderson，Coalition for Health AI（CHAI）的首席执行官兼联合创始人。

其他嘉宾

Ziad Obermeyer，加州大学伯克利分校公共卫生学院Blue Cross of California杰出副教授。

文章内容

人工智能正在改变一切，甚至包括您去看医生的经历。Ziad Obermeyer博士，加州大学伯克利分校公共卫生学院健康政策与管理副教授，介绍了一些已经使用的工具，这些工具可以帮助自动化医生的部分工作，例如通过语言模型帮助写病历或电子邮件。此外，还有一些工具可以分析图像，如心脏超声图像，并自动生成心电图报告。

Obermeyer博士还提到，一些工具可以帮助医生做他们今天不知道如何做的事情。例如，麻省理工学院的同事Regina Barzilay开发了用于读取乳腺X线照片的AI工具，这些工具的表现比任何放射科医生都要好。该算法通过查看大量乳腺X线照片及患者的后续五年结果，预测患者未来癌症的发展情况。

通过提高癌症筛查的准确性，这些工具不仅可以降低治疗成本，还可以帮助医疗提供者了解那些难以发现的情况发生的原因。Obermeyer博士的研究还包括使用AI工具检测患者的心脏骤停，这些工具不仅有可能更好地治疗和降低成本，还能帮助研究人员理解问题机制并开发新的治疗方法。

尽管AI在医疗保健中的应用前景广阔，但如何确保这些工具是安全的，以及如何制定系统和法规以防止这些工具意外伤害人们，仍然是一个巨大的问题。去年11月，时任拜登政府食品和药物管理局局长的Robert Califf博士表示，FDA无法独自监管这一快速发展的领域，因此需要临床社区、卫生系统和专业人员共同参与，形成一个不断评估这些算法的生态系统。

为了应对这一挑战，我们邀请了Dr. Brian Anderson，他是Coalition for Health AI（CHAI）的首席执行官兼联合创始人。CHAI致力于将私营部门的利益相关者聚集在一起，建立共识，以确定负责任的、好的AI在医疗保健中的样子。CHAI重点关注三个关键利益相关者：技术公司、医院和患者。

Anderson博士解释说，CHAI正在创建一个质量保证资源网络或实验室，这些实验室能够代表没有能力进行此类测试的卫生系统进行测试。通过这种方式，CHAI希望为AI模型提供更多的透明度，使医生和卫生系统能够更好地了解这些模型的工作原理。

目前，AI模型缺乏类似于食品标签的标准描述方式，也没有标准的方法来分享训练方法和数据集。CHAI的目标是创建一个“AI营养标签”，以便医生和卫生系统可以获得有关这些模型性能和限制的信息。目前，医生依赖于供应商提供的演示文稿和高层次的描述，这远远不够。

此外，AI在医疗保健中的应用尚未经过像新药或医疗设备那样严格的监管程序。传统AI或预测AI已经有800到900个不同的模型得到了FDA的批准，但生成式AI（如Gemini、ChatGPT等）还没有得到FDA的监管批准。尽管如此，这些工具已经在医生和患者之间被广泛使用，例如通过总结医生和患者之间的对话来帮助医生更好地连接患者。

为了确保AI工具的安全性和有效性，CHAI提出了一个解决方案，即通过质量保证实验室进行测试。例如，MD Anderson癌症中心可以与供应商合作，选择一个合适的实验室，使用代表性的患者数据集对AI工具进行模拟测试，并发布评估报告。这不仅可以帮助医院做出更明智的决策，还可以确保这些工具的安全性和有效性。

最后，Anderson博士强调了透明度的重要性。他认为，如果要建立对AI的信任，就必须从透明度开始。CHAI致力于要求所有认证的质量保证实验室公开其测试结果，以确保患者和公众能够获得这些信息。

(全文结束)