澳大利亚弗林德斯大学的研究团队最近展示了一种由AI驱动的评估框架，用于测试临床AI工具的实际应用。该工具被称为PROLIFERATE_AI，它扩展自2021年由弗林德斯大学未来护理研究所推出的PROLIFERATE框架，旨在确保医疗创新能够解决用户需求并改善健康结果。
这个由AI驱动的评估框架专注于AI工具在网络中的人、技术和过程中的采用、可用性和影响。它整合了用户反馈和预测建模，以优化这些技术，满足用户需求，改善健康结果，并实现可持续实践。
研究团队展示了这种AI驱动框架在评估南澳大利亚12个急诊科使用的AI工具方面的应用，该工具帮助医生快速准确地诊断心脏疾病。研究表明，与经验丰富的同事相比，较少经验的临床医生（如住院医师和实习医生）在使用该技术方面遇到了可用性挑战。根据发表在《国际医学信息学杂志》上的研究，这突显了“角色特定培训、工作流程整合和界面增强的重要性，以确保该工具在不同临床角色中的可访问性和有效性”。
自首次应用以来，PROLIFERATE_AI已被用于改进人机交互，强调与医疗AI相关的伦理考虑，并帮助解决隐私和伦理责任问题，特别是在急诊科等高风险场景中部署AI。
去年晚些时候，与澳大利亚科学研究院（CSIRO）合作的框架演示表明，它可以以高达95%的准确性建模和预测用户交互，使组织能够快速适应用户需求并提高结果。
PROLIFERATE_AI现在正应用于一个大型项目，实施重症监护室的非药物躁动管理指南。
“为了了解AI系统是否可行，我们不仅关注它们的易用性、医生和护士的接受程度，还关注它们对患者护理的影响。这不仅仅是让AI准确；而是要确保它易于理解、灵活且在关键时刻真正对医生和患者有帮助。”研究负责人Maria Alejandra Pinero de Plaza博士解释道。
近年来，围绕关键行业（包括医疗保健）中AI的开发、采用和应用，发布了各种框架、指南、建议、策略和政策。这些包括世界卫生组织的《人工智能伦理与治理》，欧盟《人工智能法案》，经合组织AI原则，澳大利亚的8项AI伦理原则，以及新加坡的《AI治理框架》。
目前，美国食品药品监督管理局正在最终确定其对AI驱动医疗设备开发商的市场提交建议。
去年，美国国家标准与技术研究院发布了一个开源平台，用于评估AI和机器学习模型（包括医疗保健领域的模型）的数据风险。HITRUST也在去年推出了其评估框架，以减轻AI部署中的风险。
(全文结束)