随着人工智能技术的进步,俄勒冈州的立法者希望明确规定只有人类才能成为护士。
在人工智能正在颠覆医疗保健行业并引发担忧和诉讼之际,俄勒冈州众议员特拉维斯·尼尔森(Travis Nelson)希望确保人工智能不能冒充护士。
俄勒冈州众议员特拉维斯·尼尔森(D-波特兰),左,在2024年9月的CCO俄勒冈会议上发言。
Jake Thomas / The Lund Report
一家科技公司宣布开发了一款每小时仅需9美元的人工智能程序,可以接管通常由护士完成的工作,而护士的工资是其十倍。这使得俄勒冈州和其他地方的护士越来越焦虑。
尼尔森是一名护士,也是波特兰民主党人,他提出了众议院第2748号法案,该法案是一项范围较小的法案,旨在禁止任何“非人类”实体,包括人工智能,使用“护士”这一称谓。
该法案出台之际,人工智能已经在重塑医疗保健行业。高科技算法被用于增加收入和降低成本,例如通过分流患者、辅助诊断、影像分析和其他护理决策。它还负责做出覆盖决定,并加速医院的“吞吐量”,即通过指导提供者以尽快出院患者的方式提高效率。
支持者指出,这提高了效率;但批评者表示,像联合健康集团这样的公司正在利用人工智能拒绝患者获得必要的护理。人工智能的责任感较低,可能会通过替代提供者的判断和决策权或直接替代他们来损害护理质量。
该法案只有一页纸,是各州中较为温和的尝试之一,旨在围绕医疗保健领域的人工智能建立保障措施,并将成为俄勒冈州首批规范这项技术的努力之一。
尼尔森表示,他希望制定更广泛的法案,允许患者选择不接受使用人工智能进行治疗的医疗服务提供者。但他表示,这可能在6月会期结束前无法实现,鉴于人工智能发展和传播的速度,迅速采取行动非常重要。
“到会期结束时,我们将在人工智能方面迈出更大的一步,”他说。“我认为这与我们当前的进展保持一致。”
营销材料展示了一个执行护士部分职能的人工智能程序。
The Lund Report 截图
美国护士协会俄勒冈分会主席詹妮弗·门辛克·肯尼迪(Jennifer Mensik Kennedy)告诉《Lund报告》,该法案对于保护患者是必要的。
“这很多是为了公共安全,对吧?”肯尼迪说。“公众需要知道,如果我自称是‘护士’,这意味着什么。一个普通人不能自称护士,因为人们认为护士具有一定的教育背景和执照。”
其他州的立法者已经提出了多项监管人工智能的法案,结果喜忧参半。在加利福尼亚,州长加文·纽森(Gavin Newsom)去年签署了《医生做决定法》,要求医生审查由人工智能技术做出的拒绝覆盖的决定。
唐纳德·特朗普总统已经采取措施放松人工智能的发展监管,推翻了拜登政府的安全保障措施。
2021年,泰国的Botnoi集团开始推广一种“AI护士”,用于“预评估”患者的疾病。去年,科技公司Hippocratic AI宣布正在开发“富有同情心的人工智能医疗代理”,可以通过电话完成“低风险、非诊断、面向患者的任务”,以缓解人员短缺问题。
该公司将护士每小时90美元的工资与使用软件每小时9美元的成本进行了比较。该公司未回应《Lund报告》的置评请求。
这一公告引发了护士们的强烈反对,包括俄勒冈州的护士,他们继续担心计算机无法胜任护士的工作。俄勒冈州护士协会在一份声明中表示,用人工智能替代护士“威胁患者安全,削弱对医疗保健的信任,并削弱护理工作中的同理心、批判性思维和决策能力”。
肯尼迪表示,许多人工智能公司并不了解护士的工作。她回忆起在一次会议上观看一家公司演示一款人工智能产品,该公司展示了一份护士与患者的对话记录。患者是一位低收入的糖尿病患者,单身母亲,正在照顾即将接受手术的母亲。
人工智能程序生成了一些建议,供护士告知患者。其中包括鼓励患者去Chipotle连锁店吃更健康的食物,并将其转介给不接受保险的昂贵的家庭护理机构。肯尼迪称这些建议带有种族歧视且无济于事。
“你可以用人工智能增强护士提供的护理,但不能替代它,”她说。
俄勒冈健康与科学大学医学信息学和临床流行病学教授威廉·赫什博士(Dr. William Hersh)告诉《Lund报告》,大多数广泛使用的人工智能医疗技术“让人类参与其中”,以便纠正错误。
“目标是简化流程,”他说。“计算机会让医生变慢。”
广泛使用的AI聊天机器人ChatGPT显示出诊断患者的潜力。赫什表示,这在资源较少的环境中可能是有用的,但仍需要临床医生参与诊断患者。
赫什表示,围绕医疗保健中人工智能的法律问题仍然重大。
“如果一个人工智能系统出错怎么办?”他说。“谁会被起诉?”
周二,众议院行为健康和医疗委员会就该法案举行了听证会。共和党众议员赛勒斯·贾瓦迪(Cyrus Javadi)表示,人工智能产品正“非常接近”成为“软件护士”。他询问这些产品是否应带有标签以提醒患者,是否应达到标准,还是应该“等待和观察”。
肯尼迪回应称,她部分希望“看看市场上会发生什么”。但她补充说,存在谁应对人工智能给出的建议负责的问题。
“我可以给你一些最近六个月从科技公司那里得到的糟糕人工智能建议的例子,”她说。“它还没有准备好。”
该法案的下一步行动尚未安排。
(全文结束)