Singithi Herath，2024年AI向善研究员，Freya Phillips国家学者。
执行摘要
澳大利亚医疗系统面临严峻挑战；预计到2031年全科医生(GP)将短缺10,600名。为紧急解决过度非临床工作负担并提高GP留任率，本文建议制定一项政策，安全且合乎伦理地将生成式人工智能(AI)整合到初级医疗中。AI工具，如AI记录员，已被证明能够显著减少行政职责和文档处理时间，使GP能有更多时间专注于以患者为中心的护理。目前的挑战是，现有监管框架，包括1989年《治疗商品法》，未能充分为这些多功能技术的临床、伦理和专业使用提供明确指导。
本文建议澳大利亚健康从业者监管机构(AHPRA)和澳大利亚国家医学委员会在现有GP行为准则中定义AI使用的明确指南。这种方法利用AHPRA在专业标准方面的既定角色，为GP提供关于何时AI适合用于临床支持(如行政任务和诊断辅助)以及何时不适合(如最终决策或高风险评估)的必要明确性。这一针对性政策避免了可能抑制创新的过度监管风险，同时确保患者安全、防止潜在数据偏见，并强化GP责任。该政策预计初期开发成本在70-80万澳元之间，持续监测和更新的年度运营成本为9万澳元。通过设定明确的专业指南，该政策确保GP能够负责任地采用AI，从而改善工作流程、减轻职业倦怠，并为所有澳大利亚人加强初级医疗质量。
问题识别
澳大利亚预计到2031年将面临10,600名全科医生(GP)的短缺。尽管执业医生数量略有增加，但近年来医疗服务需求增长了58%(澳大利亚医学协会[AMA]，2022年)。由于医生供应不足，许多职位空缺已持续数年。现有GP正以惊人速度离开该行业，选择进入GP领域的医学生减少了13%。这增加了现有医生的工作压力，对患者护理质量和医疗服务交付产生了负面影响。如今，许多GP面临工作量增加的负担，每位医生接诊的患者数量超过了建议的1,000名患者(詹姆斯，2024年)。Beyond Blue的研究表明，32%的澳大利亚医生遭受与职业倦怠相关的情绪耗竭(贝根特和贝根特，2018年)。《国家健康状况》报告进一步发现，在2,000名执业GP中，71%报告在过去12个月内经历过职业倦怠(图克萨蒂等，2024年)。GP们压力大且工作过度，澳大利亚医学协会(AMA)表示，如果问题得不到解决，"澳大利亚可能会面临GP进一步流失"(AMA，2023年)。临床疲劳和职业倦怠的影响已导致医疗服务质量出现重大问题，患者面临误诊、不当治疗和不适当护理(图克萨蒂等，2024年)。
生成式AI系统可在GP办公室以多种方式使用，减轻非临床任务压力，增强医患互动。这包括用于临床文档任务、撰写病例记录、简化健康记录系统和行政职责，缓解因过度非临床职责导致的职业倦怠(尤等，2025年)。此外，在偏远和农村地区，AI可通过为GP提供另一资源来帮助改善护理，使他们能够做出明智决策，造福患者健康(施耐德，2025年)。
背景
澳大利亚目前GP短缺有多种因素。首先是人口老龄化，这增加了对慢性医疗服务的需求(阿加瓦尔，2024年)。随着澳大利亚人寿命延长，他们更可能经历多种健康问题(共病)和相关残疾，需要持续管理，增加了GP就诊的频率和复杂性(澳大利亚健康与福利研究所[AIHW]，2014年；AMA，2018年)。此外，当前医疗案例日益复杂，进一步增加了GP治疗患者所需的时间和注意力(阿加瓦尔，2024年)。其次，吸引和留住全职GP的当前挑战已成为预计GP短缺的一个因素。年轻一代越来越重视保持健康的工作与生活平衡，因此优先考虑灵活的工作安排(什雷塔等，2011年)。此外，与其他医疗职业相比，GP面临显著较低的报酬，这种情况因医保回扣无法跟上运营成本上升而加剧(AMA，2022年)。此外，初级医生在离开医院系统追求GP培训时面临薪酬和福利削减(AMA，2022年)。这些因素的综合影响增加了当前在该领域工作的医生的压力。
生成式AI是一种新兴技术，可缓解澳大利亚即将出现的GP短缺问题，并帮助现有医生群体更好地应对日益增加的工作量。生成式AI描述了可用于创建新内容(无论是音频、视觉还是文本)的算法。这些算法通过机器学习来模仿人类智能执行任务(泽韦，2023年)。这种技术使AI模型能够通过"数据模式"不断学习以改进。生成式AI系统通过其算法进行训练，以生成与输入和训练数据相似的输出。这使得生成式AI能够在无需人工帮助的情况下筛选大量数据，创建、查找并回答给定的问题和提示。目前，消费者通过Chat GPT、微软Copilot、谷歌Gemini、Perplexity和Poe AI等形式使用生成式AI。然而，其使用正迅速从普通消费者用途扩展到更专业和技术性领域(麦肯锡公司，2023年)。
在医疗领域，生成式AI已被用于帮助解读X光等医疗影像，并分析复杂的基因和分子数据集，为医生提供快速解释(Bhasker等，2023年)。这些AI模型处理大量数据，识别模式并在压缩的时间框架内生成见解。这帮助医生进行诊断、预测患者结果和个性化治疗计划，支持他们在比传统方法显著缩短的时间内做出明智决策(Khosravi等，2024年)。然而，生成式AI的全部能力尚未被充分利用，当前立法框架限制了其在GP办公室等更以人为本的环境中使用。
当前立法
1989年《治疗商品法》监管和控制高质量、安全使用且按预期工作的医疗设备，确保患者从使用这些设备中获得最佳结果(治疗商品管理局[TGA]，2024年)。根据1989年《治疗商品法》定义的医疗设备是"可用于诊断、预防、监测、预测医疗状况结果、缓解症状、替代或增强身体部位、控制或支持避孕，或检查人体标本的仪器、设备、器具、软件、植入物、试剂、材料或其他物品"(TGA，2024年)。
由于GP办公室中的生成式AI用途比定义中所述更广泛，TGA未能充分涵盖这些情况下的使用。这带来风险，因为AI尽管可能不符合医疗设备的定义，但仍可在未经监管的情况下应用于医疗环境/情况。一些使用生成式AI的技术可能不被视为医疗设备。然而，如果这些大型语言模型(LLMs)被视为医疗设备，则该技术必须经过严格测试。这些技术的生产者必须能够证明该技术对澳大利亚人在医疗环境中使用的可靠性、适当性和质量。目前尚不清楚监管措施和AI程序将如何将实用性与临床实践相结合。
在维多利亚州，卫生服务咨询委员会强烈不鼓励将LLMs用于任何临床用途(穆迪，2023年)。责任是一个重大关切；在临床决策中使用未经批准的生成式AI系统可能导致医疗提供者的伦理和法律后果。隐私问题是维多利亚州不鼓励AI的另一个主要原因，因为使用这些系统可能违反澳大利亚隐私法并导致数据滥用(维多利亚州政府，2024年)。
禁止这项技术将使医生无法利用AI的全部潜力及其缓解负担的革命性影响。应将利用生成式AI和LLMs作为众多解决方案的一部分，使医疗专业人员能够更好地识别疾病并减轻工作流程压力。
澳大利亚医学委员会和澳大利亚健康从业者监管机构(AHPRA)是另外两个管理GP角色并制定GP如何开展工作的政策和法规的国家组织。他们通过发布一系列标准、规范、监管指南和资源来帮助促进和支持行业安全标准。由于他们在维护GP安全实践标准方面的作用，利用这些组织来帮助维护和建立GP办公室AI使用的标准是一个可行的解决方案。
目前，AHPRA为澳大利亚医疗专业人员制定了行为准则，其中包含几条适用于AI使用情况的指南，例如确保和维护患者隐私和个人数据、对决策承担责任以及向患者透明说明AI的使用。然而，仅将行为准则应用于初级医疗中使用AI的情况存在一些不足。尽管当前行为准则可以指导GP的AI使用，但缺乏明确的参考和指导可能导致GP产生歧义，因为没有关于如何将AI纳入临床决策的明确指南。
此外，现有指南如透明度和知情同意并未更新以适当包含GP应如何告知患者AI使用情况。鉴于AI的复杂性及其数据收集和决策，明确说明如何获得知情同意对于确保各方都充分了解该技术如何影响护理提供是必要的。最后，该准则并未让GP对他们的决策负责，也未说明在决策时责任应如何分担。没有关于如何适当处理相互冲突的AI和GP建议的指南，导致对GP何时以及如何适当使用AI的理解进一步出现问题。
虽然AHPRA不能直接监管特定技术或批准AI模型，但它提供了GP必须运作的伦理和专业框架。因此，AHPRA可以提供关于负责任和合乎伦理地使用AI的重要指导，特别是在维护患者信任和专业诚信方面。这种指导可以补充TGA在批准医疗技术方面的作用，两个机构共同支持GP的法律和伦理责任。这种双重监督有助于确保全科医疗中的AI使用既合规又合乎道德，同时让AHPRA继续根据其既定行为准则评估从业者。
案例研究
目前，清华大学的中国研究人员设计了一种名为"Agent AI"的AI驱动模拟模型。该技术通过使用GPT 3.5生成的模拟来训练医生，模拟真实的医患互动(克约和琼芳，2024年)。此外，这种模拟可能有潜力将虚拟患者与真实医生连接起来，缩短等待时间，并将农村患者连接到更好的医疗服务。这展示了AI技术彻底改变医疗行业的潜力。
在美国，食品药品监督管理局(FDA)负责监管AI医疗设备并制定围绕AI在医疗领域应用的政策。在州一级，加利福尼亚州正在考虑一项关于自动决策工具(AB311)的法律。该法律将适用于医疗保健中AI决策工具的使用，并将确保使用该技术的人必须：
- 提交年度影响评估，说明系统决策背后的原因(如果决策对象是自然人)
- 允许决策对象有机会由非自动化系统考虑(如果他们是自然人)
- 建立保障措施，记录系统的限制并向用户和系统对象传达
- 设立指定的治理/合规人员
该法律将与加利福尼亚州现有的隐私和反歧视立法一起实施。由于这是州级法律，AB311将在其管辖范围内监管AI的使用，包括其部署方式、如何解释决策以及如何保护个人。AB311将与FDA并行运作，因为它解决了AI治理的不同维度(技术安全与伦理使用)。
该案例研究凸显了AI在临床环境中的使用既可行又能以合乎伦理和透明的方式进行监管。拟议的加利福尼亚法律展示了政府如何通过确保保障措施、透明度和人工监督来平衡创新与问责。对于澳大利亚，它为制定支持安全整合AI到医疗保健中的监管框架提供了有价值的模型，在保护患者权利的同时促进技术进步。此外，该模型表明联邦和州系统可以协同工作，在AI使用的多个维度上扩大安全措施。
同样，加拿大《泛加拿大医疗人工智能(AI4H)指导原则》提供了另一个例子，说明政府如何采取协调和基于价值观的方法来监管医疗保健中的AI(加拿大政府，2025年)。这些全国认可的原则强调在使用AI技术时以人为中心的护理、透明度、安全性和公平性。虽然不是立法，但它们展示了共享治理和伦理框架如何支持跨司法管辖区的一致、负责任的AI采用。对于澳大利亚，这为制定与联邦监督和州级医疗交付相一致的全国性连贯指南提供了一个有用的模型。
人工智能产品正在全球范围内快速发展，澳大利亚面临着错失监管环境带来的积极成果的风险，该环境考虑到不断变化的市场。政策改革不应被视为障碍，而应被视为澳大利亚采取主动方法并制定监管要求的机会，以确保AI的安全和合乎伦理的使用，同时允许及时采用该技术。这将使澳大利亚受益于AI的进步，使AI技术能够有效利用，同时保持保护患者和医疗提供者的强大监督。
政策选项
选项1. 修改1989年《治疗商品法》第41BD条中对医疗设备的定义，以包括专门为医疗环境开发的通用AI技术
这将有助于监管未被归类为医疗设备的生成式AI和LLMs的使用。该选项旨在扩大当前医疗设备定义，以包括在临床环境中部署的通用AI模型。这将使此类技术能够在医疗健康环境的条件下受到适当监管和测试，以便安全地在医疗环境中使用。
然而，对该技术的过度监管将使其对医疗从业者不可用。TGA为技术批准为医疗设备所设定的法规和指南非常严格，可能会使开发者不愿追求AI的设备监管。另一个关键考虑因素是需要显著提升TGA监管者的技能，以确保他们能够适当评估哪些AI工具应在澳大利亚用于临床使用，并确定开发者必须满足的必要要求以获得监管批准。该选项侧重于建立AI工具进入医疗领域的法律分类和批准流程。
选项2. 在AHPRA和澳大利亚国家医学委员会制定的指南和框架内，定义何时适合以及不适合在医疗实践中使用AI
这将为GP或医疗从业者何时应将AI作为其治疗的一部分以及如何安全地进行提供明确性和指导。它允许进行伦理考虑，并支持GP就AI使用的适当情况做出知情决策。它还确保有一个符合法律要求的框架，保护医疗工作者免受可能产生的任何问题。
然而，开发和理解何时可以使用AI可能很困难。这将由澳大利亚健康从业者监管机构(AHPRA)和澳大利亚国家医学委员会通过为GP制定的框架来概述。此类指南将保护GP免于承担责任。例如，在行政支持(如自动化预约安排或基于症状的患者分诊)、诊断辅助和监测慢性疾病方面使用AI是合适的，因为算法可以帮助跟踪健康数据。在没有人工监督的情况下做出最终临床决策、需要细致判断的心理健康评估以及高风险程序或紧急干预(其中延迟或误解可能导致严重伤害)方面使用AI是不合适的。
选项3. 修改1989年《治疗商品法》，要求医疗保健AI决策工具的开发者和提供商提交年度影响报告
该修正案将为澳大利亚监管环境做好准备，以合乎伦理和安全地采用临床环境中的AI。该拟议修正案将提高透明度和问责制，通过退出条款促进患者自主权，并通过指定的合规官员确保持续监督。这些报告将提交给TGA，以便在敏感信息环境中了解AI系统。该修正案还应确保患者可以选择退出AI主导的决策，清楚地向用户和患者传达AI工具的局限性和能力，并指定一名合规官员负责持续监督。这些措施有助于通过强化临床决策中的人类判断来防止过度依赖AI。
然而，该提案也带来了挑战，包括为开发者和医疗提供者增加的监管和运营负担、新AI工具部署的潜在延迟，以及在错误发生时明确分配责任的困难。尽管存在这些缺点，该修正案代表了安全、合乎伦理和透明地将AI整合到澳大利亚医疗保健中的积极一步。这些规定将确保AI作为更广泛决策过程的一部分使用，而不是作为唯一权威。通过强制透明度、人工监督和定期审查，这种方法降低了错误风险，确保了问责制，并防止过度依赖自动化系统。该政策选项更侧重于AI工具在获准用于医疗保健环境后的治理、监控和伦理使用。
政策建议
推荐政策选项2"在AHPRA和澳大利亚国家医学委员会制定的指南和框架内，定义何时适合以及不适合在医疗实践中使用AI"，因为它侧重于AI使用的实际实施，而不会带来过度监管或阻碍该领域未来创新的风险。创建何时适合以及不适合在初级医疗中使用AI的明确指南，确保AI使用经过伦理考虑且安全。该建议在为GP及其患者提供充分保护与不对开发者施加过度负担之间取得了良好平衡。该建议为AI监管提供明确性，支持创新同时管理实施挑战。希望将AI技术用于日常实践的GP(如管理预约、在咨询期间提供诊断支持和分诊患者)将从该政策建议中受益最大。
该政策将在澳大利亚全科医生现有行为准则内实施，增加一个关于如何在初级医疗保健中适当使用AI技术的具体章节。该政策的制定将包括AHPRA、澳大利亚医学委员会以及澳大利亚皇家全科医生学院，以创建一个尽可能解决多种歧义的综合指南。
澳大利亚数字健康机构实施的My Health Records(MHR)治理框架以及国家AI框架展示了在澳大利亚建立和治理健康技术所需的投资规模。澳大利亚政府最初投资12亿澳元用于MHR的初始实施，并在2021-2022年度预算中为持续治理额外拨款3.742亿澳元(澳大利亚国家审计办公室，2019年)。同样，国家AI框架在4年内使用了1.241亿澳元的资金，如2021-22年度预算所述(澳大利亚政府，2021年)。
基于对这些举措的基准测试，该政策估计将使AHPRA花费70-80万澳元，持续监测、更新和修订的年度运营成本为9万澳元，以跟上技术发展。对于实施此类窄范围政策方法的规模和目标而言，这是一项适当的投资。由于AHPRA是一个自筹资金的组织，需要政府拨款来资助行为准则的修订。此类拨款可来自卫生部以支持变革。这些政策建议的成功将通过针对GP的调查进行评估，以衡量他们使用AI技术的有效性以及是否提供了充分指导。此外，还将对患者进行调查，以了解这些变化是否导致更好的健康结果和更有效的医患互动。
这项实用的政策建议将使GP能够更好地访问AI技术，而不会受到阻碍，同时为他们提供关于何时使用适当的明确性。这将有助于缓解GP职业倦怠，减轻难以维持工作量的GP的负担。GP将有机会利用另一种技术来最小化花在非临床任务上的时间，使他们有时间和精力适当地治疗患者并提高诊断准确性，从而带来更好的健康结果。
风险
实施该政策建议存在若干风险。主要风险是行为准则的更改将无法跟上AI技术持续快速发展的步伐，存在落后和过时的风险。这可能导致投入该项目的任何财政支持被视为浪费。
在制定全科医疗中AI技术使用指南时，必须确保仅推荐那些证明已努力减轻数据偏见的AI工具。鉴于用于训练AI程序的许多数据集的倾斜性质，这些技术可能加剧现有健康不平等，特别是对于土著社区等边缘化群体，他们在健康数据中往往代表性不足。为解决此问题，指南应包括明确标准，用于评估AI工具在实施临床决策前是否已接受验证以考虑数据差距和偏见。
此外，指南应要求GP接受适当的培训，以了解AI技术中数据偏见的相关风险。此培训应使从业者具备批判性评估AI生成输出、识别潜在不准确性和减轻意外后果的技能，而不是过度依赖AI建议。尽管有些人将AI工具比作高级搜索引擎，但重要的是要认识到许多AI生成的结果可能缺乏关于其数据来源的透明度，使GP难以验证信息的准确性。
临床决策中AI技术生成的建议的可靠性和问责性存在重大风险。目前可用的许多AI工具尚未经过适当的临床决策验证。因此，这些系统提供的声明或建议往往无法证实，GP也无法明确识别或验证其来源。这种缺乏透明度构成了重大风险，因为它削弱了GP确保提供给患者建议的准确性、安全性和适当性的能力。因此，指南应强调临床监督的重要性，确保AI建议用于补充而非取代临床医生的判断。
需要识别的另一个关键风险是患者数据和隐私问题。尽管行为准则说明了GP应如何处理患者隐私和数据，但这并不能确保GP使用的程序遵循医疗保健领域中围绕患者数据的适当法律。因此，GP需要承担问责角色，并确保他们最小化向AI技术输入敏感信息，这可能违反隐私法。同时，医生应与患者进行有关知情同意的对话，确保他们充分了解AI技术的作用及其使用伴随的风险。
参考文献
Adam Zewe, MIT News. (2023). Explained: Generative AI.
Ageing population will need more medical support. (2019). 澳大利亚医学协会。
Australian Government. (2021). Direct AI 2021–2022 Budget Measures: Implementation and next steps.
澳大利亚健康与福利研究所. (2014). Ageing and the health system: challenges, opportunities and adaptations. Australia's health series no. 14. Cat. no. AUS 178. Canberra: AIHW.
澳大利亚医学协会. (2023). Doctors Stressed, burnt out and susceptible to distressing regulatory processes, reports show.
澳大利亚医学协会. (2022). The General Practitioner Workforce: Why the Neglect Must End.
澳大利亚国家审计办公室. (2019). Implementation of the My Health Record System.
Bhasker, S., Bruce, D., Lamb, J., & Stein, G. (2023). Tackling healthcare's biggest burdens with generative AI.
加拿大政府. (2025). Pan-Canadian AI for Health (AI4H) Guiding Principles.
Keyue, X., Qiongfang, D. (2024). China's first AI hospital town debuts. Global Times.
Khosravi, M., Zare, Z., Mojtabaeian, S. M., & Izadi, R. (2024). Artificial Intelligence and Decision-Making in Healthcare: A Thematic Analysis of a Systematic Review of Reviews. Health Services Research and Managerial Epidemiology, 11.
McGuinness, A. (2025). Legal experts warn patients' medical data at risk as GPs adopt AI scribes. 澳大利亚广播公司。
麦肯锡公司. (2023). The Economic Potential of Generative AI: The Next Productivity Frontier.
Moodie, C. (2023). "Cease immediately": Doctors forbidden from using artificial intelligence amid patient confidentiality concerns.
Schneider, J. (2025). AI: The Inevitable Frontier in Rural Healthcare. General Catalyst.
Shrestha, D., & Joyce, C. M. (2011). Aspects of work-life balance of Australian general practitioners: determinants and possible consequences. Australian Journal of Primary Health, 17(1), 40–47.
治疗商品管理局(TGA). (2024). Regulation of software-based medical devices.
Toukhsati, S., Kippen, R., & Taylor, C. (2024). Burnout and Retention of General Practice Supervisors: Prevalence, Risk Factors and Self-Care. Australian Journal for General Practitioners, 53(11/10), 85–90.
维多利亚州政府. (2024). Guidance for the safe and responsible use of generative artificial intelligence in the Victorian Public Sector.
You, J., Dbouk, R., Landman, A. (2025). Ambient Documentation Technology in Clinician Experience of Documentation Burden and Burnout.
全球之声研究员表达的观点和意见不一定反映该组织或其工作人员的观点。
【全文结束】