人工智能（AI）如今几乎无处不在，因此它进入医疗保健领域也就不足为奇了。它的最新应用之一是AI书记员。
从医院到全科医生诊所，这种工具因其能够减轻医生繁重的行政负担而受到欢迎。曾在西澳大利亚一家乡村急诊科工作的本·康顿医生（Dr Ben Condon）第一次接触AI时就感到非常震惊。“它给了我额外的一双手，帮助我撰写所有病历笔记，”他说。
但专家警告说，这种技术确实存在风险。患者信息一旦发生数据泄露，在暗网上可以卖出高价，而且AI还有可能生成“误导性”信息。
AI书记员如何工作？
顾名思义，AI书记员通过软件实时转录医生与患者之间的对话，类似于法庭上的速记员。随后，它会生成一份医疗记录供医生审核和批准，并添加到患者的病历中。
康顿医生表示，这种技术“在轮班中可以节省数小时时间”。“在15分钟的会诊中，通常需要花8到10分钟写笔记，而AI书记员将其缩短到一分钟或更少。这种效率在整轮班中积累起来是非常显著的。”
昆士兰卫生部门正在三个医院和健康服务机构试点AI书记员技术。澳大利亚医学协会（AMA）昆士兰分会主席尼克·伊姆医生（Dr Nick Yim）表示，这种技术正在“彻底改变”医生的工作方式和患者的治疗方式。
他说，这与电子医疗记录系统（ieMR）的持续推广相辅相成。“ieMR提供了AI工具可以添加的基础系统……推广已经进行了多年，我们很高兴现在已在80个HHS站点投入使用。”
这些工具可能会出错
尽管专家承认，减少医生工作负担的技术可以在医疗系统中填补重要空白，但他们也警告了潜在的风险。
昆士兰大学的副教授赛义德·阿克拉格普尔（Saeed Akhlaghpour）是一位AI与健康数据保护专家，他对AI书记员的使用持谨慎乐观态度。“这些技术确实带来了立竿见影的好处，但风险也是真实的。我有多个重大担忧，这些担忧也得到了许多临床医生、法律专家和隐私监管机构的认同，”他说。
AI书记员目前并未受到澳大利亚治疗用品管理局（TGA）的监管，因此医生需对软件生成的内容承担法律责任。阿克拉格普尔指出：“这些工具可能会出错，尤其是在有强烈口音、嘈杂环境或使用医学术语时。”
“AI书记员可能会误解或遗漏临床重要信息，例如混淆药品名称、误分类症状，甚至生成虚构内容。”
皇家澳大利亚全科医师学院最近的一份审查报告指出，AI工具的“幻觉率”（即生成误导性输出）在0.8%至近4%之间。阿克拉格普尔表示，这可能导致病历错误，并危及患者安全。“与轻微的拼写错误不同，这些错误如果未被纠正，可能对患者的健康记录产生严重后果。”
如何保护数据安全？
最近，澳大利亚航空公司Qantas遭遇了大规模数据攻击，这仅是私人信息泄露事件中的最新案例。随着网络攻击和数据泄露事件日益增多，以及AI在医疗领域的应用不断扩展，如何保护患者信息仍然是一个关键问题。
阿克拉格普尔博士表示，尽管已经存在一定的安全措施，但关键在于各诊所和医疗服务机构如何实施这些措施。“医院和诊所需要建立良好的内部系统：包括适当的培训、IT安全措施、多因素身份验证以及最新的隐私通知。”
他还强调：“选择一个值得信赖的供应商也很重要——一个将数据本地存储、使用加密技术，并在未经患者同意的情况下不将数据用于AI训练的供应商。”
网络安全专家发现，从MediSecure公司被盗的高度敏感数据，包含数百万澳大利亚人的健康信息，正在暗网上以半价被重新出售。阿克拉格普尔博士表示，虽然目前尚未报告与AI书记员技术相关的数据泄露事件，但整个医疗行业已经发生了严重事故。
“病历在暗网上特别值钱，通常比被盗信用卡信息的价值高出20到100倍，”他说。“因此，保护这些数据不是可选项，而是至关重要的。”
患者应了解哪些内容？
在同意使用AI书记员之前，患者应清楚地了解以下问题：
- 本次会诊是否会被录音或转录？
- 数据由谁处理，存储在哪里？
- 我的信息是否会用于训练AI或与他人共享？
- 如果拒绝使用AI书记员，是否仍能获得相同的医疗服务？
【全文结束】
