在莱比锡举行的第129届医学大会上，“人工智能”是一个关键话题。提交了超过20项关于该主题的部分重叠的决议提案。特别重要的是，人工智能不得危及医患关系。自动语音转录和处理系统中越来越多地使用AI可能会导致敏感信息泄露给第三方，从而破坏信任。因此，决定成立一个由医学、IT、法律和伦理学领域的代表组成的跨学科AI专家委员会，以制定指南等。
共同决策而非他主
医生们希望积极参与和支持人工智能的发展和引入，而不是被市场驱动的“颠覆性”解决方案所左右。“我们没有太多时间了，”德国医学协会（BÄK）“医疗数字化”委员会联合主席彼得·鲍伯特博士说。“我们现在需要自主权、独立性和真正的欧洲‘空客时刻’在AI开发中。”AI系统的引入不应缺少专家。数字基础设施中的问题，特别是医院不同IT系统之间缺乏接口，被认为是合理使用AI的主要障碍。
自主的人工智能系统
在一项动议中，医学大会呼吁采取监管措施“限制少数大型提供商在医疗保健领域对AI系统的垄断”。相应地，“必须促进大学、独立研究中心和专业学会开发和实施AI应用程序”。除了责任问题外，医生还看到了由于错误或有偏见的算法可能导致过度诊断和可能的歧视的风险。强调指出，AI系统不能做所有事情，数据质量至关重要。
不是《星际迷航》中的“医生”
AI甚至很快就能接管一些医疗任务。“几年前，AI听起来像科幻小说，今天它已成为医疗实践，”德国医学协会（BÄK）主席克劳斯·赖因哈特博士在辩论开始时说。“但其使用也引发了有关数据安全、透明度和医疗责任的问题。”许多医生认为，尽管技术进步，但人性化的关怀、同情心和与患者共情的能力仍然至关重要。医生并不将AI视为医生的替代品，而是作为支持工具。
“我不想要《星际迷航》飞船上的‘医生’，”来自下萨克森州的儿科医生蒂尔曼·凯瑟纳解释道。像他的许多同事一样，他担心AI会完全接管医疗服务。在《星际迷航》系列中，紧急医疗全息图（EMH）代表了一个基于AI的全息角色。医生们担心这会使人类成分和医疗判断变得多余。
医生应有最终决定权
研究表明，AI可以识别高风险患者，从而防止死亡。“数据拯救生命，”拜罗伊特大学数字健康研究员、德国伦理委员会成员阿尔多·法伊萨尔教授强调。在几项动议中，医疗界呼吁明确的指导方针和规定，以确保人们仍然是最终决策者。尽管医疗器械制造商主要对产品缺陷负责，但仍存在不确定性，因此医生们推动法律保障和明确的规定。
医生们还讨论了“AI的黑箱”。德国医学协会的代表呼吁在AI支持的决策过程中保持透明，并在文档中标明AI生成的建议。德国医学协会执行委员会将对相应的动议进行投票。在医疗界推广数字和AI专业知识被认为是至关重要的，以便医生了解AI的工作原理并能够明智且安全地使用这项技术。“我们仍处于实施的非常早期阶段，最多只是试点阶段，”维也纳医科大学放射学和核医学系主任乌尔里克·阿滕贝格尔教授解释说。
独立且安全的服务器
医生们还积极投票通过了一项关于使用安全且独立的服务器用于医疗AI系统的动议。解释声明指出，只有这样才能确保敏感健康数据的长期保护，并且“位于欧盟以外的服务器位置对数据安全构成相当大的风险”。
AI被认为是一种已经存在的现实，并为医学带来了巨大的机遇，将改变日常医疗实践。例如，已经有使用人工智能的数字健康应用程序。医疗界认为自己有责任确保AI的道德和负责任的使用，并呼吁制定超出当前欧洲要求的明确规则和指南。根据医疗界的观点，AI不得歧视并使人们处于不利地位。
谁从数据中受益？
还有人担心，对数据的控制以及由AI系统创造的经济价值可能掌握在医疗界之外。因此，已提交动议以保护医疗界的合法利益和在数据经济中的经济参与。
此外，批评指出，谷歌、微软等大型科技公司未来将能够通过健康研究数据中心（FDZ Gesundheit）访问数据，这些数据主要由医生输入。然后，这些数据将用于开发和训练AI系统，再将其卖回给医生。相反，医疗界主张支持欧洲解决方案。
还有一项关于“通过日历模式防止电子病历中的健康数据重新识别”的动议得到了积极投票。一个担忧是，目前仅凭少量信息和元数据中的日历模式就可以从FDZ持有的健康数据中得出关于个人的结论。这引发了关于保密性的问题，并可能使歧视成为可能。
数字化委员会联合主席埃里克·博登迪克强调了医生对AI话题的差异化方法。在论文“医疗保健中的人工智能”和声明“医学中的人工智能”中，BÄK事先制定了“从医学角度来看，在数字化未来应满足的要求”。
(全文结束)
