加州州长加文·纽森签署了第3030号议会法案（AB 3030），标志着在医疗保健环境中监管生成式人工智能（GenAI）使用方面迈出了重要一步。这项新法律，即《医疗保健服务中的人工智能法案》，将于2025年1月1日生效，旨在提高患者的透明度，同时解决与AI在临床沟通中相关的潜在风险。
AB 3030旨在规范医疗保健提供者，包括医院、诊所和私人医疗机构，如何使用AI生成与临床信息相关的患者沟通。根据新法律，AI生成的沟通，无论是书面、口头还是视觉形式，都必须包含一个明确的免责声明，告知患者内容是由AI创建的。此外，这些沟通还必须提供明确的指示，告诉患者如何联系人类医疗保健提供者以获取更多信息或澄清。
该法案是加州议员更广泛努力的一部分，旨在减轻与生成式AI技术相关的风险，尤其是在AI系统越来越集成到医疗保健实践中的情况下。根据加州立法机构的一份声明，AB 3030旨在确保患者在AI用于其护理时完全知情，并且有明确的途径寻求人类互动，如果他们需要的话。
虽然该法律引入了新的保障措施，但也明确规定，由持牌医疗保健专业人士审查和批准的AI生成沟通不受披露要求的约束。这一例外得到了多个医学协会的支持，这些协会表达了对过于严格的规则可能阻碍AI简化临床流程（如记录，这对医疗保健提供者来说通常是耗时的任务）的担忧。
该法律不适用于关于行政事务（如预约安排或账单）的AI生成沟通。其重点在于患者临床信息，因为错误可能带来更严重的后果。这意味着AI工具仍可用于非临床任务，而无需严格的披露要求。
定义生成式AI为“可以生成衍生合成内容的人工智能”，该法律特别针对创建原始内容的AI系统，例如大型语言模型（LLMs）生成的书面文本。通过关注合成内容，该法律旨在解决与AI生成材料相关的独特风险，这些材料有时会在临床沟通中引入不准确或偏见。
AB 3030还引入了对违反法律的医疗保健提供者的问责措施。被发现违反新规定的医生将受到加州医学委员会或加州骨科医学委员会的监督。医疗设施和诊所可能会根据加州的健康和安全法规面临执法行动。
随着法律即将生效，加州监管机构强调了在医疗保健中平衡AI的好处和风险的必要性。根据加州参议院的一份声明，AI工具可以帮助减少医疗保健工作者的行政负担，提供更多时间进行患者护理。然而，人们担心AI可能会引入错误，例如“幻觉”，即AI生成看似合理但虚假的信息，以及由于训练数据不完整或历史上不准确而产生的偏见。
尽管AB 3030并未直接监管AI生成临床内容的准确性，但它通过确保患者了解其护理中AI的使用情况来提供透明度。这与联邦层面的更广泛努力一致，例如白宫的《人工智能权利蓝图》，强调当自动化系统影响个人生活时，个人有权知道这一点。
随着加州在医疗保健AI监管方面的领先地位，全州的医疗保健提供者现在面临着适应这些新要求的任务。专家建议，医疗设施应开始准备实施AB 3030，更新其通信系统，确保AI生成的内容适当标记，并加强其监督流程以维持护理质量。这种主动方法将有助于缓解依赖AI的风险，同时确保符合加州严格的新规定。
(全文结束)