医疗保健中的人工智能：临床实践与患者保护指南AI in medical care: A map for clinical practice and patient protection | Medical Economics

引言

自2022年11月ChatGPT推出以来，医疗领域对人工智能(AI)的兴趣已呈指数级增长。提供ChatGPT大型语言模型用户界面的移动应用程序在发布后两个月内获得了1亿用户，目前每月有百万访问者¹,²。虽然ChatGPT的发布使数十年的AI进步广泛普及，但医疗领域自20世纪40年代起就已开始利用AI功能，包括自动化分析、数据合成和优化策略³–⁵。这些早期努力在过去15年中取得了显著影响，这得益于大数据分析、云计算及相关存储能力的互补性进步，以及来自电子健康记录和其他新兴来源的大量结构化医疗数据⁶–¹¹。

医学中的人工智能：当前与未来应用

尽管AI的应用范围正在迅速扩大，但在医学中的常见用途包括基于个人或医疗资料的风险分层¹²–¹⁴、识别实验室或影像检查中的异常发现并向患者、医生和其他医疗专业人员发出警报¹⁵,¹⁶、基于可用临床信息进行疾病诊断¹⁷,¹⁸，以及用于临床文档的语音转文本工具¹⁹。例如，心脏风险分层、败血症警报和药物-药物相互作用弹出框都是AI的形式。因此，人工智能已经高度集成于日常临床实践中。

AI的未来前景包括增强医疗护理的新机会，包括医学教育和研究。AI具有模拟患者情景、合成大量信息以及为图表、参考资料和其他学习工具提供建议的潜力²。医学研究人员已开始使用ChatGPT和其他形式的AI分析大量数据，包括文章中的非结构化文本，甚至生成研究假设²⁰–²³。临床护理中AI的应用无疑将继续扩展；移动健康应用、远程医疗和个性化护理的指数级增长已经展开²⁴–²⁹。随着AI进入医学的新领域，我们可以预见新挑战和困境的出现。

挑战与关注点

AI有潜力像其他行业一样彻底改变医疗领域，但关于伦理、监管和医事法律问题等诸多问题仍有待解决³⁰,³¹。

伦理问题

ChatGPT的早期使用经验进一步凸显了AI中"黑箱"挑战，即用户难以理解AI输出，而开发人员也难以解释输出的基础³²。在医学中，这一挑战引发了关于临床医生在其临床判断中使用AI输出的信心以及向患者解释决策和指导的能力的担忧³¹。保护患者自主权并允许知情同意，对AI在护理中的使用和参与保持透明，应成为指导原则³³,³⁴。

监管问题

关于AI的监管问题一直是讨论的焦点，国会议员就此举行听证会，AI公司的领导者呼吁立法者寻求对其自身技术的更严格监管。使用代表性不足的数据训练AI模型可能导致偏见，加剧现有不平等⁴。一个例子是对与特定种族群体相关名称的正面和负面情绪，但已经出现许多此类问题，未来可能会有更多³⁵。

护理责任

最后，特别是在医学领域，使用自动化分析和决策使得护理的责任和责任更加模糊³⁰。例如，如果像ChatGPT这样的大型语言模型审查病历时得出患者没有糖尿病史的结论，而患者也回忆没有此类病史，但升高的葡萄糖测量实际上埋在旧的实验室结果中，临床医生是否应对差异负责？我们需要为临床工作中AI的使用制定护理标准。

信息革命中的赢家与输家

除了上述关注和挑战外，我们必须持续评估谁从AI整合到医学中受益，谁可能受到伤害。与所有技术进步一样，并非每个个人或群体都能从中受益³⁶–³⁸。媒体已开始报道作家、编辑和其他专业人员因ChatGPT而失去工作，医学专业内部也可能会发生重组³⁹–⁴¹。医生、护士和其他医疗保健专业人员将面临压力，要求他们使用AI简化决策过程，以更少的资源做更多的工作，但可能以患者护理为代价，临床医生必须防范任何不会直接惠及患者的效率和收入过度强调。特别是因为医生拥有诊所的比例已从1988年的72%下降到2022年的仅24%，这意味着非临床人员和有商业利益的个人在患者护理和关于哪些任务可以或应该自动化的决策中比以往任何时候都有更多发言权⁴²,⁴³。

我们已经看到AI被用来破坏患者护理的极端例子，例如有报道称主要保险公司使用AI自动处理保险拒付，并让医生"审查员"在没有足够时间审查的情况下签署拒付⁴⁴。关于医疗机构人员配置比例及其对患者护理影响的担忧在COVID-19之前就已经提出，此后只增不减⁴⁵–⁴⁷。AI的扩展将引发新的伦理和患者安全问题，这些问题无法全部预见。

医生和护士可以确保患者成为赢家

在医疗保健服务出现新的、不可预测的变化的背景下，医生和其他临床医生必须尊重但坚定地拥护患者需求。患者不太可能合理地期望解决自己的集体行动问题，并为AI保护、人员配置或医疗保健中所需的其他法规进行倡导⁴⁸,⁴⁹。护士在倡导安全人员配置方面已做了出色的工作，而医生对AI整合到医学中的潜力和陷阱都有很好的理解。临床医生和公共卫生倡导者都需要参与，既要解决临床医生的工作流程和福祉，又要为患者发声。要使临床医生成为有效的患者倡导者，我们需要与立法者就患者保护进行有效合作。医生和护士面临后果，包括失去工作，例如林明博士在COVID期间因倡导患者权益而被解雇⁵⁰。所有临床医生都需要能够就与患者安全相关的AI角色和监管问题自由发声。

前进的道路：了解AI并保护患者

自18世纪第一家医学院和综合医院成立以来，医生一直指导着现代医学，我们也将引领我们的专业进入这个新时代。让我们向那些开发人工智能的人学习。如果使用得当，AI的潜力是惊人的，而且与医学不同，这些知识通常是免费且广泛分布的。愿意付出努力的人可以获取知识，而拥有知识的人将在AI医疗的新时代为患者倡导发出最具说服力的声音。那些在人工智能领域取得最新进展的先驱者也需要向医疗保健专业人员学习。我们的伦理原则、对人性的理解以及对患者的承诺将成为医学AI的基石。

Diane Kuhn博士是印第安纳大学急诊医学助理教授。临床上，她是一名夜班医生，在社区和学术医院之间分配时间。她的研究重点是提高急诊护理的质量和价值。她之前曾发表过关于电子医疗记录中自动化工具的使用、以患者为中心的护理和患者体验评分，以及医生生产力和监督模式的研究。她认为医生有责任在社会和立法层面倡导患者，而不仅仅是在临床接触中。因此，她积极参与患者倡导工作，并是美国急诊医学学会、患者保护医师和印第安纳州医学协会的成员。

Edmond Ramly博士是威斯康星大学麦迪逊分校家庭医学和社区健康以及工业和系统工程的助理教授。他的工作通过实施科学和人因工程改善门诊环境中的护理质量和工作流程。他的研究推动了既基于证据又以人为本的护理，通过在标准化和适应当地环境之间取得平衡。贡献包括为慢性病预防和管理设计、实施和扩大系统干预，以及全州范围的数据驱动质量改进。他目前正在开发新方法，以简化基于证据的护理实施，并研究远程医疗扩展对健康差异的影响。Ramly博士曾担任人因工程与人体工程学学会宏观人因技术小组的项目主席和主席，并共同撰写了关于工业和系统工程在医疗保健中的AHRQ/NSF联邦报告。

参考文献

1. ChatGPT Statistics 2023 Revealed: Insights & Trends. Published February 22, 2023. Accessed June 2, 2023.
2. Eysenbach G. The Role of ChatGPT, Generative Language Models, and Artificial Intelligence in Medical Education: A Conversation With ChatGPT and a Call for Papers. JMIR Med Educ. 2023;9:e46885. doi:10.2196/46885
3. Yu KH, Beam AL, Kohane IS. Artificial intelligence in healthcare. Nat Biomed Eng. 2018;2(10):719-731. doi:10.1038/s41551-018-0305-z
4. Haug CJ, Drazen JM. Artificial Intelligence and Machine Learning in Clinical Medicine, 2023. Drazen JM, Kohane IS, Leong TY, eds. N Engl J Med. 2023;388(13):1201-1208. doi:10.1056/NEJMra2302038
5. Turing, AM. Computing Machinery and Intelligence. Mind. 1950;49:433-460.
6. Palanisamy V, Thirunavukarasu R. Implications of big data analytics in developing healthcare frameworks – A review. Journal of King Saud University - Computer and Information Sciences. 2019;31(4):415-425. doi:10.1016/j.jksuci.2017.12.007
7. Ahmed Z, Mohamed K, Zeeshan S, Dong X. Artificial intelligence with multi-functional machine learning platform development for better healthcare and precision medicine. Database. 2020;2020:baaa010. doi:10.1093/database/baaa010
8. Kamel Boulos MN, Peng G, VoPham T. An overview of GeoAI applications in health and healthcare. Int J Health Geogr. 2019;18(1):7, s12942-019-0171-0172. doi:10.1186/s12942-019-0171-2
9. Wu, Taiyang, Wu, Fan, Qiu, Chunkai, Redoute, Jean-Michel, Yuce, Mehmet Rasit. A Rigid-Flex Wearable Health Monitoring Sensor Patch for IoT-Connected Healthcare Applications. IEEE Internet of Things Journal. 2020;7(8):6932-6945.
10. Dang LM, Piran MdJ, Han D, Min K, Moon H. A Survey on Internet of Things and Cloud Computing for Healthcare. Electronics. 2019;8(7):768. doi:10.3390/electronics8070768
11. Aceto G, Persico V, Pescapé A. Industry 4.0 and Health: Internet of Things, Big Data, and Cloud Computing for Healthcare 4.0. Journal of Industrial Information Integration. 2020;18:100129. doi:10.1016/j.jii.2020.100129
12. Lin A, Kolossváry M, Motwani M, et al. Artificial Intelligence in Cardiovascular Imaging for Risk Stratification in Coronary Artery Disease. Radiology: Cardiothoracic Imaging. 2021;3(1):e200512. doi:10.1148/ryct.2021200512
13. Thomas J, Haertling T. AIBx, Artificial Intelligence Model to Risk Stratify Thyroid Nodules. Thyroid. 2020;30(6):878-884. doi:10.1089/thy.2019.0752
14. Suri JS, Paul S, Maindarkar MA, et al. Cardiovascular/Stroke Risk Stratification in Parkinson's Disease Patients Using Atherosclerosis Pathway and Artificial Intelligence Paradigm: A Systematic Review. Metabolites. 2022;12(4):312. doi:10.3390/metabo12040312
15. Wu JT, Wong KCL, Gur Y, et al. Comparison of Chest Radiograph Interpretations by Artificial Intelligence Algorithm vs Radiology Residents. JAMA Netw Open. 2020;3(10):e2022779. doi:10.1001/jamanetworkopen.2020.22779
16. Pianykh OS, Langs G, Dewey M, et al. Continuous Learning AI in Radiology: Implementation Principles and Early Applications. Radiology. 2020;297(1):6-14. doi:10.1148/radiol.2020200038
17. Natarajan S, Jain A, Krishnan R, Rogye A, Sivaprasad S. Diagnostic Accuracy of Community-Based Diabetic Retinopathy Screening With an Offline Artificial Intelligence System on a Smartphone. JAMA Ophthalmol. 2019;137(10):1182. doi:10.1001/jamaophthalmol.2019.2923
18. Zhang S, Wang Y, Zheng Q, Li J, Huang J, Long X. Artificial intelligence in melanoma: A systematic review. Journal of Cosmetic Dermatology. 2022;21(11):5993-6004. doi:10.1111/jocd.15323
19. Krausman A, Kelley T, McGhee S, Schaefer KE, Fitzhugh S. Using Dragon for Speech-to-Text Transcription in Support of Human-Autonomy Teaming Research.
20. Dahmen J, Kayaalp ME, Ollivier M, et al. Artificial intelligence bot ChatGPT in medical research: the potential game changer as a double-edged sword. Knee Surg Sports Traumatol Arthrosc. 2023;31(4):1187-1189. doi:10.1007/s00167-023-07355-6
21. Panch T, Szolovits P, Atun R. Artificial intelligence, machine learning and health systems. J Glob Health. 8(2):020303. doi:10.7189/jogh.08.020303
22. Punia SK, Kumar M, Stephan T, Deverajan GG, Patan R. Performance Analysis of Machine Learning Algorithms for Big Data Classification: ML and AI-Based Algorithms for Big Data Analysis. International Journal of E-Health and Medical Communications (IJEHMC). 2021;12(4):60-75. doi:10.4018/IJEHMC.20210701.oa4
23. Hou R, Kong Y, Cai B, Liu H. Unstructured big data analysis algorithm and simulation of Internet of Things based on machine learning. Neural Computing & Applications. 2020;32(10):5399-5407. doi:10.1007/s00521-019-04682-z
24. Aldekhyyel RN, Almulhem JA, Binkheder S. Usability of Telemedicine Mobile Applications during COVID-19 in Saudi Arabia: A Heuristic Evaluation of Patient User Interfaces. Healthcare. 2021;9(11):1574. doi:10.3390/healthcare9111574
25. Weinstein RS, Lopez AM, Joseph BA, et al. Telemedicine, Telehealth, and Mobile Health Applications That Work: Opportunities and Barriers. The American Journal of Medicine. 2014;127(3):183-187. doi:10.1016/j.amjmed.2013.09.032
26. Baldwin JL, Singh H, Sittig DF, Giardina TD. Patient portals and health apps: Pitfalls, promises, and what one might learn from the other. Healthcare. 2017;5(3):81-85. doi:10.1016/j.hjdsi.2016.08.004
27. Ventola CL. Mobile Devices and Apps for Health Care Professionals: Uses and Benefits. P T. 2014;39(5):356-364.
28. Haffey F, Brady RRW, Maxwell S. Smartphone apps to support hospital prescribing and pharmacology education: a review of current provision. British Journal of Clinical Pharmacology. 2014;77(1):31-38. doi:10.1111/bcp.12112
29. Kao CK, Liebovitz DM. Consumer Mobile Health Apps: Current State, Barriers, and Future Directions. PM&R. 2017;9(5S):S106-S115. doi:10.1016/j.pmrj.2017.02.018
30. Zhang J, Zhang Z ming. Ethics and governance of trustworthy medical artificial intelligence. BMC Med Inform Decis Mak. 2023;23(1):7. doi:10.1186/s12911-023-02103-9
31. Nolan P. Artificial intelligence in medicine – is too much transparency a good thing? Medico-Legal Journal. Published online January 19, 2023. doi:10.1177/00258172221141243
32. Adadi A, Berrada M. Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI). IEEE Access. 2018;6:52138-52160. doi:10.1109/ACCESS.2018.2870052
33. Keskinbora KH. Medical ethics considerations on artificial intelligence. Journal of Clinical Neuroscience. 2019;64:277-282. doi:10.1016/j.jocn.2019.03.001
34. Rigby MJ. Ethical Dimensions of Using Artificial Intelligence in Health Care. AMA Journal of Ethics. 2019;21(2):121-124. doi:10.1001/amajethics.2019.121
35. Raub M. Bots, Bias and Big Data: Artificial Intelligence, Algorithmic Bias and Disparate Impact Liability in Hiring Practices. ARKANSAS LAW REVIEW. 71.
36. Iqbal Z. Outsourcing: A Review of Trends, Winners & Losers and Future Directions. 4(8).
37. Blattman C, Hwang J, Williamson JG. Winners and losers in the commodity lottery: The impact of terms of trade growth and volatility in the Periphery 1870–1939. Journal of Development Economics. 2007;82(1):156-179. doi:10.1016/j.jdeveco.2005.09.003
38. Wolnicki M, Piasecki R. The New Luddite Scare: The Impact of Artificial Intelligence on Labor, Capital and Business Competition between US and China. Journal of Intercultural Management. 2019;11(2):5-20. doi:10.2478/joim-2019-0007
39. ChatGPT took their jobs. Now they're dog walkers and HVAC techs. - The Washington Post. Accessed June 5, 2023.
40. A.I. firms are trying to replace voice actors, and they're getting help from voice actors to do it. Accessed June 5, 2023.
41. Shah NR. Health Care in 2030: Will Artificial Intelligence Replace Physicians? Ann Intern Med. 2019;170(6):407-408. doi:10.7326/M19-0344
42. Employed physicians now exceed those who own their practices. American Medical Association. Published May 10, 2019. Accessed June 3, 2023.
43. A Growing Number of Physicians are Employed | Merritt Hawkins. Accessed June 5, 2023.
44. How algorithms are being used to deny health insurance claims in bulk. PBS NewsHour. Published April 2, 2023. Accessed June 3, 2023.
45. Michtalik HJ, Yeh HC, Pronovost PJ, Brotman DJ. Impact of Attending Physician Workload on Patient Care: A Survey of Hospitalists. JAMA Internal Medicine. 2013;173(5):375-377. doi:10.1001/jamainternmed.2013.1864
46. Duffield C, Diers D, O'Brien-Pallas L, et al. Nursing staffing, nursing workload, the work environment and patient outcomes. Applied Nursing Research. 2011;24(4):244-255. doi:10.1016/j.apnr.2009.12.004
47. Gorges RJ, Konetzka RT. Staffing Levels and COVID-19 Cases and Outbreaks in U.S. Nursing Homes. Journal of the American Geriatrics Society. 2020;68(11):2462-2466. doi:10.1111/jgs.16787
48. Olson M. The Logic of Collective Action: Public Goods and the Theory of Groups, With a New Preface and Appendix. Revised edition. Harvard University Press; 1971.
49. Beaglehole R, Bonita R, Horton R, Adams O, McKee M. Public health in the new era: improving health through collective action. The Lancet. 2004;363(9426):2084-2086. doi:10.1016/S0140-6736(04)16461-1
50. Stone W. An ER Doctor Lost His Job After Criticizing His Hospital On COVID-19. Now He's Suing. NPR. Published May 29, 2020. Accessed June 3, 2023.
51. Rangachari P, L. Woods J. Preserving Organizational Resilience, Patient Safety, and Staff Retention during COVID-19 Requires a Holistic Consideration of the Psychological Safety of Healthcare Workers. International Journal of Environmental Research and Public Health. 2020;17(12):4267. doi:10.3390/ijerph17124267

【全文结束】