大型语言模型在医疗保健中的应用:更短的提示,更低的排放?Large language models in healthcare: shorter prompts, less emissions?

环球医讯 / AI与医疗健康来源:healthcare-in-europe.com澳大利亚 - 英语2024-11-19 15:00:00 - 阅读时长2分钟 - 865字
新的研究显示,医院在使用大型语言模型处理患者记录时应负责任地管理资源,以减少碳排放。
大型语言模型医疗保健资源消耗环境后果患者数据碳排放量硬件稀土金属医院能源消耗
大型语言模型在医疗保健中的应用:更短的提示,更低的排放?

一项新的研究调查了人工智能(AI)在医疗保健中的影响,表明使用大型语言模型(LLMs)每天处理多个医院的数千条患者记录可能会导致大量资源消耗。这项研究发表在《内科学杂志》上,阿德莱德大学和雷丁大学的研究人员强调了医院如何负责任地使用AI,包括使用更短的提示来总结患者数据。

“ChatGPT的能源消耗估计是Google的15倍。在医疗保健中实施大型语言模型可能会产生非常显著的环境后果。” 领导这项研究的阿德莱德大学研究员奥利弗·克莱宁格(Oliver Kleinig)表示:“每天你在医院,医生、护士和其他医院工作人员都会记录大量的关于你的健康信息。到出院时,可能会积累数万字的资料。与忙碌的医疗保健工作人员不同,类似于ChatGPT的私人大型语言模型有时间阅读和处理这些信息。然而,强大的处理能力伴随着巨大的责任。单次AI查询使用的电力足以给智能手机充电11次,并在澳大利亚数据中心消耗20毫升的淡水。ChatGPT的每日碳排放量已经相当于400-800个美国家庭。医疗保健AI系统可能会有更大的碳足迹,因为它们需要更强大的模型来处理复杂的医疗信息,并且必须本地运行以保护患者隐私。”

除了能源消耗外,这些AI系统所需的硬件还需要广泛的稀土金属开采,这可能导致栖息地破坏。仅制造过程就可能使AI操作的碳足迹翻倍。为了减少医院和医疗中心对环境的影响,研究人员提出了医疗保健提供商在实施AI系统前应考虑的五个关键问题,包括:

  • 我的组织是否需要大型语言模型?现有技术是否足够?
  • 我应该选择哪种LLM?使用最小的可能模型以减少资源消耗——较小、经过微调的LLM可以胜过较大的应用程序。
  • 如何优化我的LLM?使用较小和特定的提示以减少应用程序的碳影响。简洁且信息精炼的提示更加节能。
  • 我应该使用哪种硬件运行我的LLM?使用可再生能源运行的硬件是首选。
  • 我应该共享哪些数据?通过适当共享数据来最大化LLM的效率。

该研究还指出,AI有可能通过改善患者流动性和减少纸张使用等途径减少医疗保健的环境影响。

来源: 雷丁大学


(全文结束)

大健康
大健康