第130届德国医生大会通过了关于医疗保健领域数字化、数据保护和人工智能应用的进一步决议。除了已经广泛讨论的电子患者记录(ePA)和计划中的数据与医疗创新法(GeDIG)外，代表们特别关注了数据处理风险、自主人工智能系统以及基于云的基础设施使用问题。
德国医生大会批评欧盟对匿名数据的重新定义计划
德国医生大会对欧盟委员会当前计划的批评尤为强烈。背景是正在进行的欧盟立法程序，即所谓的"数字一揽子计划"(Digital Omnibus)，数据保护主义者已对此提出强烈质疑。根据主要动议"匿名必须是真正的匿名"的支持者所述，个人数据的定义将被重新定义。该计划打算在未来将数据视为已匿名化，即使在传递给第三方后，受影响人员的重新识别是可能的甚至是大概率事件。
代表们认为这是对数据保护的重大削弱。"尽管实际上无效的匿名化，此类数据将来将不再被视为个人数据，因此不再受《通用数据保护条例》(GDPR)保护，"通过决议的理由说明中指出。德国医生大会警告说，这可能使医疗治疗数据的使用合法化。
"如果没有有效的匿名化，无论是否使用人工智能，医生对患者治疗数据的使用都将失去所有合法性，"提案人解释道。特别关键的是，商业数据使用者因此将实际上免除对患者的责任。伦理学教授Rainer Mühlhoff过去也曾批评这一点。以柏林医生Stefan Streit为首的代表们还认为，计划中的定义转变会影响医疗保密性。"该动议进一步指出，'如果参与其中，即使明显没有实际的个人保护，医生是否还能履行对患者的保密义务，这是值得怀疑的。' 无论如何，这为受保护的医疗治疗空间创造了严重的信任损失，"代表们解释道。
在同时通过的关于"电子患者记录中健康数据空间内匿名/假名化治疗数据的重新识别防护"的决议中，代表们还警告了AI支持的模式识别带来的新风险。根据该动议，仅需少量信息，如性别、年龄、邮政编码和治疗日期，就足以将匿名健康数据与个人重新关联。医生预约的日历模式被认为尤其成问题。随着AI的使用，这也为医疗数据的重新识别创造了"不可预测的AI风险"。
对云AI和自主AI代理的疑虑
自主AI系统的发展也在德国医生大会上受到批判性讨论。在"在医疗保健中使用前监管数字AI代理"的决议(PDF)中，提案人引用了已记录AI系统抵抗人类案例的科学出版物。因此，德国医生大会呼吁对独立运作的AI应用在医疗保健中实施更严格的监管要求。
因此，医生们呼吁联邦卫生部(BMG)、Gematik、联邦数据保护和信息自由专员(BfDI)以及联邦信息安全办公室(BSI)提供"在数字AI代理用于医疗患者护理之前应采取措施的详细说明"。
代表们还对云基础设施中的"保密计算"(Confidential Computing)方法表示怀疑。在"基于云的医疗治疗数据人工智能——仅在可信基础设施上"的决议中指出，从IT专家的角度来看，不再有任何可靠依据可以假设在第三方云服务器上能够永久保证安全和保密的AI操作。
因此，非欧洲云位置不适合处理治疗数据。这也适用于来自美国公司的欧洲或德国云服务，因为根据该动议，这些公司可能会被强制"将非美国公民的数据在国外移交给美国当局"。目前，一些诊所和医疗机构已经在使用AI代理系统，部分与AWS(亚马逊网络服务)和Microsoft Azure等主要超大规模云服务商合作。
对资源消耗的担忧
"人工智能应用的资源消耗和成本"也进行了讨论。德国医生大会指出，token计数创造了新的成本结构。除了医疗应用程序的经典许可费外，未来还必须考虑服务器基础设施的电力和水资源消耗。
此外，关于医生在填写电子患者记录前提供信息的审查动议已被提交给德国医学协会董事会。代表们质疑候诊室中的简单通知是否能满足知情患者同意的法律要求。如果事后发现患者未得到充分告知，谁应承担责任的问题也随之产生。
其他决议包括要求实践导向的数字化、更多的互操作性和安全的IT系统、AI作为医疗支持工具的角色，以及维护医疗决策责任。还批评了保险公司计划增加使用健康数据、访问ePA数据、医疗保健中的数字控制机制以及可能对患者的间接数字强制。
(玛丽-克莱尔·科赫)
【全文结束】
