随着心理健康领域的人工智能（AI）不断发展，犹他州希望在鼓励创新的同时对其进行监管。这是犹他州人工智能政策办公室（Office of Artificial Intelligence Policy）的目标之一。该办公室是全美首个此类机构，旨在审查人工智能试点项目，特别是关注心理健康问题。
犹他州人工智能政策办公室主任扎克·博伊德（Zach Boyd）表示，犹他州正在积极跟踪技术的发展，同时预测可能需要的政策调整。“我们不希望重复过去的一些错误，比如让社交媒体等技术发展到无法有效立法管理的地步。”他说。
该办公室正在监测数十个问题，包括深入研究人工智能与心理健康的关系。一些引起办公室关注的领域包括数据隐私、责任法、医疗保健、教育、虚假信息等方面的影响。“心理健康是一个巨大的问题，这不仅仅与人工智能有关。我在大学教书，看到许多年轻人非常关心自己的心理健康，他们对待心理健康的方式与前几代人不同。”博伊德补充道。
目前，这项技术仍处于早期发展阶段。例如，国家饮食障碍协会（National Eating Disorders Association）的一个聊天机器人因提供可能加剧饮食障碍的建议而被移除。“当这项技术出错时，它往往会非常自信。”犹他大学精神病学系副教授杰里米·肯德里克（Jeremy Kendrick）说。该校一直在努力推进行为科学领域的人工智能应用，如尝试利用技术预测心理健康问题或分析面部表情和手势以帮助诊断。
作为临床医生和信息学家，肯德里克表示，大学正处于“充满希望但谨慎乐观”的阶段，正在仔细审查这些技术，因为它们可能还很年轻、不可预测，有时甚至存在偏见。然而，这些技术有潜力在医生短缺的州增强医疗服务的可及性。“等待看诊的名单越来越长，我们没有足够的医生来满足所有需要看诊的患者。因此，当有一些简短的治疗模式或其他方法可以在患者等待看诊期间提供帮助时，这些技术就显示出很大的潜力。”肯德里克说。他希望看到经过验证的产品，可以帮助学术界和临床医生了解哪些患者需要优先看诊，或帮助个性化患者的护理方案，通过分析大数据找到可能不明显的关系。
从商业角度来看，企业认为人工智能可能成为寻求心理健康服务的可扩展、低成本且不太令人望而生畏的选项。博伊德表示，人工智能在某些任务上可能比人类表现更好。然而，具体细节尚不清楚，目前无需担心人工智能会取代人类工作，考虑到当前医疗保健领域的需求。
目前，最好的公司正在缩小人工智能训练的角度，有些专注于预防方面，有些只涉及少数评估或诊断任务。人工智能政策办公室已向立法机构推荐了近期可能采取的行动，包括加强消费者保护，特别是在数据隐私方面。“我们确实看到一些公司在使用不合适的方法吸引用户，或者声称帮助心理健康但实际上偏离了真正有益的方向。”博伊德说。
该办公室还在制定建议，明确持证专业人士如何在自己的实践中使用这些技术，并提供最佳实践指导，以避免产品在使用中出现疏忽的情况，目标是在鼓励创新的同时实施严格的处罚措施。犹他州商业部门下的职业许可部门（Utah Division of Professional Licensing）已经有一个执法机制，该部门与博伊德的办公室同属一个机构。此外，还有针对医疗事故的法律，在这些情况下也可能有效。
博伊德表示：“我们已经考虑了很多与人类类似的措施。对于人类，我们会要求他们具备执照和培训等条件。我们认为目前州政府还没有准备好，也不明智去考虑给聊天机器人颁发执照。在这个领域，存在各种技术和实际障碍，而且这可能会干扰新兴技术的发展。”
从研究角度来看，肯德里克表示，犹他大学正在使用付费墙后的研究数据和特定疾病或医学领域的专著来训练模型。这将使他们的产品区别于其他产品，如ChatGPT和Google Gemini。事实上，大学已经禁止使用任何外部模型，如OpenAI，以防受保护的健康信息意外泄露到大学的模型中。
目前，这项技术仍然昂贵且不够可靠，如果完全依赖其自身运行，可能会出现问题。肯德里克说：“未来将是医生加上人工智能共同与患者互动，而不是患者直接与聊天机器人对话。我承认这是有偏见的，因为在心理健康领域，提供者与患者之间的治疗互动非常重要，人工智能在短期内无法替代这一点。”
(全文结束)
