在医疗机构广泛采用新技术之前，通常已经有一个涉及多学科监督的结构来测试和验证该解决方案。在实施人工智能驱动的解决方案时，也应该如此。尽管技术可能有所不同，但你的组织并不需要从零开始建立AI治理。
拥有AI治理尤为重要，因为目前围绕行业标准和联邦法规仍存在许多不确定性。这可能会促使更多州级审查：例如，在德克萨斯州，州检察长和一家位于达拉斯的医疗技术公司在2024年9月达成和解，原因是该公司对其AI产品的准确性和误导性声明进行了虚假宣传。
根据Snowflake的定义，AI治理是“一系列框架、政策和最佳实践，作为护栏确保AI技术的开发和使用能够最小化潜在风险（如偏见）并最大化预期效益。”
AI治理也可以被视为数据治理的延伸。归根结底，AI的核心是由数据和高级分析组成的。AI解决方案需要数据治理的原则和实践，包括数据管理、数据质量、元数据管理、数据隐私和安全，就像传统数据和分析解决方案一样。重要的是不要从头开始重新构建AI治理，而要考虑数据治理的关键基础要素。
AI治理的一部分应解决有关偏见、决策以及技术经济和文化影响的问题。如果医疗机构希望实现AI解决方案的持续、全组织范围内的采用，那么基于数据治理的基础并结合特定于AI治理的其他领域至关重要。
患者对不足的AI治理表示担忧
每年，非营利性医疗研究机构ECRI都会发布一份关于患者安全最重大威胁的清单。在2025年的清单中，“医疗保健中的人工智能治理不足”位列第二。
患者完全有理由担心他们的医疗服务提供者如何使用AI进行护理。如果有一种依赖计算机视觉监控房间的虚拟护理解决方案，患者是否已被通知摄像头和麦克风的存在，并且他们是否已明确同意？患者是否知道他们的初级保健医生在年度体检期间使用环境监听工具进行临床记录？如果使用AI解决方案，组织如何保护患者的医疗数据？
这些都是医疗机构在探索AI在其临床工作流程中的作用时需要回答的问题。然而，根据UPMC的Center for Connected Medicine和KLAS Research在2023年的一项调查，只有16%的卫生系统建立了专门针对AI和数据的治理结构。
明尼苏达大学公共卫生学院对2023年美国医院协会调查数据的分析发现，虽然大多数美国医院正在使用AI辅助的预测模型，但其中只有44%的医院对其模型进行了偏见评估。这对公平的医疗服务是有害的，如果医疗机构希望实现五重目标（包括推进健康公平），就需要认真解决AI偏见问题。
AI治理不仅仅是技术变革
在对AI的持续兴趣背后，是对医疗劳动力短缺和持续临床倦怠的担忧。医生和护士已经不堪重负，他们并不总是得到所需的支持。此外，随着婴儿潮一代的老龄化，美国将继续看到对医疗需求的稳步增长。
医疗机构正在寻找减少临床医生行政负担并帮助他们用更少资源做更多事情的解决方案。他们还希望采用能够吸引人才并可能延长即将在未来几年退休的护士或专家职业生涯的解决方案。
因此，当医疗机构继续试点和扩展AI驱动的应用程序时，必须有一个强大的治理结构来确保提供者和患者受到保护。仅仅任命一位高级领导来监督AI是不够的。AI治理应该包括多个部门，并进行全组织范围内的培训和教育。
“我们需要一定程度的AI素养，这样使用设备的医生会说，‘等等，它是否通过了我们的AI评估过程？你在谈论哪种AI？’”肯塔基州路易斯维尔的Baptist Health Medical Group首席医疗信息官布雷特·奥利弗博士在2024年的一次行业会议上说。“这样的小对话可以产生很大的影响，确保引入的AI得到评估和监测。”
(全文结束)