家庭护理人员不了解人工智能的作用和潜在益处
由康奈尔大学的Grace Stanley撰写
图片来源：Kampus Production from Pexels
人工智能越来越多地被用于家庭护理——但家庭护理人员通常对此并不了解。他们也不理解人工智能的工作原理、为什么它会保留他们的信息，以及它可能在工作场所复制偏见和歧视。
康奈尔大学的研究团队对人工智能工具对前线家庭护理人员（如个人护理助理、家庭健康助理和认证护士助理）工作的影响进行了定性研究。他们将在2025年4月26日至5月1日在日本横滨举行的计算机协会人机交互会议（CHI '25）上展示这项工作。
“我们的研究迈出了更广泛议程的第一步，旨在提升前线利益相关者的声音，以设计和采用安全和伦理的人工智能系统在家庭护理中。”论文的合著者、康奈尔科技学院信息科学副教授Nicola Dell说。她还是雅各布斯-特赫尼昂-康奈尔研究所和康奈尔安·S·鲍尔斯计算与信息科学学院的副教授。
研究人员对22名家庭护理人员、护理机构工作人员和工人倡导者进行的访谈显示，家庭护理人员缺乏对人工智能技术及其数据使用的理解，并且不清楚为什么人工智能系统会保留他们的信息。
“研究参与者认识到人工智能工具可以提供的显著效率提升，特别是在一个面临劳动力短缺和需求增加的行业中。”论文的合著者、康奈尔科技学院计算与信息科学博士生Ian René Solano-Kamaiko说。
“然而，我们看到，尽管机构参与者承认不知道这些工具是否公平运作，但他们通常认为这些系统是可信的，因为它们改善了运营结果。”
研究中的家庭护理人员普遍没有意识到人工智能已经在他们的工作中得到应用，特别是通过算法排班匹配系统，这些系统由雇佣他们的机构使用。家庭护理人员通过一种平衡他们的可用性、资格和地理位置与患者的需求和位置的匹配过程从机构获得轮班分配。
“我们发现了一个显著的知识差距：机构工作人员通常更了解人工智能在家庭护理中的使用，而大多数直接受影响的家庭护理人员却对人工智能知之甚少，甚至不知道它已经在他们的工作中得到应用。”Solano-Kamaiko说。
鉴于算法排名系统（类似于家庭护理中使用的排班匹配系统）已被证明会对具有相同人口特征的家庭护理人员群体（女性、有色人种、移民和其他边缘化身份的个体）进行歧视，这一知识差距令人担忧。
“虽然一些参与者承认人工智能可能会强化现有的不平等现象，但大多数人对这些技术可能复制种族主义、性别歧视和其他形式的歧视的风险几乎一无所知。”Solano-Kamaiko说。“这些发现强调了迫切需要更大的透明度、关键监督和对家庭护理环境中人工智能使用的意识。”
为了更好地支持未来的家庭护理人员，研究人员强调需要公平的、参与性的治理结构来监管人工智能。他们认为这些结构应包括所有级别的重要利益相关者，包括患者和家庭护理人员。
“参与式方法开发人工智能治理结构时，需要精心构建，以确保从那些不仅处于边缘地位，而且在当前关于人工智能治理的讨论中被严重排除在外的利益相关者的视角出发，集中问题和潜在解决方案。”Solano-Kamaiko说。
为了确保这些利益相关者具备帮助管理人工智能结构所需的AI知识，研究人员还提倡“利益相关者优先”的AI教育方法。
“‘利益相关者优先’的方法不是将重点放在要学习的技术内容上，而是转移到人工智能系统应用的具体情境上。”Solano-Kamaiko说。“这种方法有助于工人更好地理解和推理特定情境下人工智能的影响，而不必具备编程等技术技能。”
(全文结束)
声明：本文仅代表作者观点，不代表本站立场，全文内容涉及AI跨语种自动翻译。如有侵权请联系我们删除。