在人口老龄化社会中，一个差距正在扩大：人们寿命延长，但家庭规模缩小。越来越多的人可能在生命末期无法自行做出医疗决策，也没有近亲或信任的朋友为其代言。生死攸关的决定将落入陌生人的手中。
预先医疗指示（Advance Care Planning, ACP）旨在弥合这一差距，让人们提前记录自己的愿望。然而在实践中，它已成为一次性文书工作，表格提前多年归档，很少被重新审视，需要时也难以检索。这一问题成为新加坡科技大学（SUTD）新研究的起点。
在2026年计算系统人机交互因素CHI会议上展示的论文《描述我感受的词语：探索AI代理在高主观性预先医疗决策中的潜力》中，SUTD助理教授Kenny Choo及其团队构建了ACPAgent，这是一个使用人工智能（AI）并充当ACP代理的经验原型。在四次研讨会中，15名参与者训练该系统并判断是否信任它为自己发声。
"我们谨慎地没有假设AI就是答案，"Choo说。"我们构建它是为了提出一个基本问题：当决策取决于个人价值观而非事实时，AI应扮演什么角色？"
每位参与者概述了对他们重要的事项，如重视的活动、护理目标以及他们愿意用什么来换取更多时间。然后他们通过五个难度递增的场景进行测试，从可治疗的感染到终末期疾病和未解决的家庭冲突。在每一轮中，他们在看到代理的建议之前先确定自己的选择，并且可以在轮次之间调整偏好并提出异议。
数据显示，参与者在86.7%的决策中同意该代理的意见，而场景影响了76%的选择。有趣的是分歧点：人们在家庭内疚感、可负担性和真实康复几率方面提出异议——这些是模型处理不佳的因素。
"我建议不要将86.7%视为成功指标，"Choo说。"在高主观性环境下，高同意率可能意味着系统捕捉到了某人的价值观，但也可能意味着顺从、自动化偏见或仅仅是一个令人满意的模型。"
影响是双向的：在约12%的情况下，代理反对参与者的首选，但他们最终接受了其推理。一位参与者表示，该代理给了她"描述我感受的词语"，这也指出了代理的最大风险。
"另一方面是，机器人可能在训练我们正确进行ACP——而不是相反，"Choo说。"如果系统提供词语，它也会塑造这些词语。一个人可能会采用源自模型而非自身的表达方式和立场。"
风险是作者身份模糊：当代理的推理说服你时，你如何知道哪些价值观真正属于你自己？
由于风险极高，Choo认为透明推理、挑战代理的空间以及存储内容的日志很重要。团队将回应映射到人类控制和机器自主性上，提出了四个角色，从低自主性的价值观引导者到完全代理。他们认为最有希望的是中间路径：一个在不取代人类判断的情况下强化个人意愿的倡导者。
是否完全委托是有争议的。"诚实的反事实不是AI与一个充满爱心、见多识广的人类代理的对比，"Choo说。"对越来越多的人来说，是AI与无或从未见过他们的陌生人的对比。"
他补充说，该研究有一些局限性：场景被简化，会话是一次性的，代理明显的个性化可能夸大了信任。负责任地部署此类代理需要法律认可，因为ACP文件尚未具有约束力。将国家ACP和医疗指令记录整合，使一个人的愿望在护理点实际可检索是必要的，同时需要更强的数据保护。
实际应用需要时间，但几位参与者表示有兴趣使用该代理与年迈的父母开始对话。
"我们可能构建了一个可行的经验原型，但我们将其用作探针——揭示人们如何在一个过于敏感和高风险而无法抽象研究的领域中思考自主性、控制和信任，"Choo说。"我们不是询问模型能做什么，而是用它来询问人们真正希望它做什么。"
【全文结束】