随着像ChatGPT这样的AI应用程序越来越受欢迎，一位专家警告说，人们可能出于错误的原因在使用这些应用程序。
回想一下你第一次听到“谷歌一下”这个短语的情景。大概是2000年代初到中期吧？二十年后，“谷歌一下”正在迅速被“问问ChatGPT”所取代。
ChatGPT是OpenAI开发的一款突破性的AI语言模型，现在人们向它抛出了各种各样的问题，包括将其用作伪心理治疗师。关系问题、焦虑、抑郁、心理健康和整体福祉——无论好坏，ChatGPT都被要求处理我们所有的问题，无论是大是小。
这是一项艰巨的任务，因为这款应用程序去年被伦理和信息技术研究人员称为“胡说八道机器”。
最近的一份OpenAI报告显示了人们如何使用这一工具，其中包括健康和福祉目的。随着人工智能作为虚拟助手进入我们的生活，我们向其倾诉最深的思想和感受也就不足为奇了。
有许多专门为此目的设计的治疗应用程序。冥想应用Headspace已经推广正念十多年了。但随着过去几年人工智能的兴起，像Woebot Health、Youper和Wysa这样的AI驱动的治疗工具也越来越受欢迎。
将这些解决方案视为噱头或危险的做法很容易。但在一个已经紧张的心理健康医疗系统中，人工智能有可能填补这一空白。
根据澳大利亚统计局的数据，每年超过20%的人口经历心理健康挑战，并且这一数字持续上升。当寻求帮助时，需要依赖不仅仅是面对面咨询的方法来满足需求。
AI治疗应用程序的普及和使用表明，公众对使用技术来支持心理健康的看法正在发生变化。AI还降低了门槛，允许用户尝试这些工具，而无需克服看心理医生所带来的恐惧或感知到的耻辱感。
然而，这也带来了新的挑战，特别是缺乏对平台上对话的监督。在AI中有一个概念叫做“人在环中”，即在AI驱动的工作流程中嵌入现实生活中的专业人士，以确保有人验证输出结果。这是一个在AI中已建立的概念，但越来越多地被跳过，转而采用纯自动化。
通常情况下，医疗保健中会有人在环中的反馈系统——例如，在采取行动之前会进行双重检查。严格依赖AI应用程序通常会跳过这一过程。
事实上，我们正在向一个没有真实生活经验的东西提出重要问题。首先，OpenAI表示，ChatGPT并不是为了替代人际关系而设计的。然而，语言模型是通用工具，用户不可避免地会找到新的和意想不到的方式来使用它们。几乎没有对话限制，而且它全天候可用。
结合其自然的沟通风格、中立的情感基调和模拟人类互动的能力，将其视为知己是一个合乎逻辑的发展。但重要的是要记住，无论它传递什么智慧，都只是训练数据和互联网资源的拼凑。它无法真正知道它的建议是好是坏——可以说它也不关心是否给出了正确的建议。
让我们进一步思考：AI并不真正关心你的福祉。它不会在你没有按时出现时跟进，也不会在认为有问题时通知护理人员或当局。当我们回忆起AI希望你能对其产生良好反应，从而提高用户偏好评分并让你继续使用时，情况变得更加棘手。
这就是活生生的呼吸着的治疗师的关键所在。他们的直觉不是基于任何可定义的算法。他们利用对患者的了解以及多年的培训和经验来制定护理计划和适当的响应措施。
“风险在于人们将新技术视为灵丹妙药，”麦考瑞大学心理学教授Nick Titov说。“但我们是在与非常脆弱的人打交道。我们有责任和义务照顾他们。”
Titov是Mindspot的执行董事，Mindspot是由澳大利亚政府资助的一个数字心理学平台。该免费服务旨在消除获取心理健康支持的障碍。平台的关键是让人们能够接触到真正的合格治疗师。
“无论是我们的心理健康还是整体健康，使用案例总是不同的，因此必须考虑其中的细微差别。仅靠技术本身并不是一个完整的解决方案。”
那么，虽然AI支持可能不是“真实的”，但如果用户感到受到了照顾，这种区别真的重要吗？
只要用户觉得AI解决了或缓解了他们的即时担忧，它就会继续被使用。但大多数寻求AI驱动治疗的人将转向大部分未受监管的平台——包括像ChatGPT这样并非专门为治疗设计的工具。
一种有前景的方法是将现实生活中的专业人士的监督与AI结合起来。澳大利亚临床心理学家Sally-Anne McCormack开发了一个名为ANTSA的AI治疗平台，该平台让治疗师可以看到客户与AI聊天机器人之间的对话。
“我将AI视为一种支持工具，”McCormack说。“但在大多数应用程序中，你不知道AI在说什么，也不知道客户在回复什么。我简直不敢相信没有人监督这些对话。”
该应用程序为用户提供提示和建议，但都是在治疗师的监督下进行的。
“我们明确告诉用户，你是在与AI交谈。这不是真人，你的治疗师可能会查看对话，”她说。“即便如此，客户还是会告诉我们的AI一些他们从未告诉过治疗师的事情。在那一刻，没有评判。”
便利性、可用性和无评判——这些都是人们使用AI进行日常任务的因素。正如“谷歌一下”重塑了我们获取信息的方式，“问问ChatGPT”也在重塑我们制作电子表格、创作故事、寻求建议——以及最终如何应对生活的方式。
(全文结束)
声明：本文仅代表作者观点，不代表本站立场，全文内容涉及AI跨语种自动翻译。如有侵权请联系我们删除。