电子健康记录与AI技术结合展现出了巨大的前景，但也面临着后门攻击、数据投毒和未经授权访问的风险。聊天机器人现在在回答患者咨询方面已经超过了人类医疗工作者，简化了流程并减轻了行政负担。然而，专家表示，鉴于医疗行业是网络攻击的主要目标，医院应平衡其对人工智能（AI）的使用与网络安全风险。
纽约大学格罗斯曼医学院7月份发布的一项研究显示，生成式AI（genAI）和人类对患者问题的回答在准确性、完整性和相关性方面没有统计学差异。该研究还指出，genAI的回答在可理解性和语气方面优于人类提供者9.5%，被认为是同理心的可能性高出125%，使用积极语言的可能性高出62%。
位于菲律宾邦板牙全球城（BGC）的富尔顿健康菲律宾公司已经开始通过其LiveFuller应用程序使用聊天机器人来减轻人工员工的工作负担。富尔顿BGC电子健康系统负责人卡米·德莱昂在接受《亚洲医疗保健》杂志Zoom采访时说：“该应用程序可以评估患者的健康状况，并提供预测分析，如果习惯不改变，可能会患上哪些疾病。”她补充道，客户可以更快地获得诊断结果。“最大的帮助是对工作人员，他们不需要输入大量文件，从而更好地专注于提供优质服务。”
富尔顿BGC运营总监雷纳琳·托马达指出，尽管genAI在医疗保健方面取得了长足进展，但可能受到网络安全风险的阻碍。提供IT服务、技术和咨询服务以加速公共和私营部门数字化转型的Temus Pte Ltd.表示，使用genAI的电子健康系统面临后门攻击、数据投毒和未经授权访问的风险。Temus AI管理总监马特·约翰逊和战略数据及企业架构师迪克·斯马特-吉尔在联合电子邮件回复中表示：“第二个隐私风险是个人身份信息从电子健康记录数据中泄露到大型语言模型（LLM）中。” LLM是一种机器学习模型，可以生成和分类文本、进行对话式问答和翻译文本。
Veritas Technologies LLC亚太区首席技术官杰弗里·科利指出，随着网络犯罪持续不断，患者越来越关注数据隐私，包括其医疗记录的处理方式。他引用了IBM 7月份发布的《数据泄露成本报告》，该报告显示，截至2024年2月的12个月内，医疗行业的平均数据泄露成本下降了10.6%，降至977万美元。“但这一因素并不足以将其从自2011年以来一直占据的数据泄露成本最高的行业中移除，”IBM表示。
尽管如此，分析师对genAI在医疗保健领域的潜力持乐观态度。约翰逊和斯马特-吉尔指出，在治疗方面，genAI可以增强而不是替代临床判断，为医生提供数据驱动的见解，以便做出更明智的决策。在研究方面，genAI可以改变人们对健康的理解。“通过分析大量匿名健康数据，研究人员可以识别疾病和治疗结果的模式。这可能导致新的研究假设的产生，加快医学发现的速度，”他们补充道。
(全文结束)
