医疗系统多年来一直强调控制成本的重要性，尤其是在报销率和通货膨胀未能跟上运营需求的情况下。2025年，这些成本控制努力将持续进行，并面临新的挑战：采用AI工具及其所需“保姆”的费用。
这是来自《CBS News》和《KFF Health News》的一篇文章的主要观点，该文章采访了多位医疗系统技术及AI领导者，讨论了与AI投资相关的劳动力需求。目前，这是一个悖论：尽管AI工具常被吹捧为效率和自动化的未来，但它们目前仍需要大量的人力监督才能正常运行。
“每个人都认为AI将帮助我们提高访问能力和容量，改善护理等。”斯坦福医疗保健首席数据科学家Nigam Shah博士在接受采访时说，“所有这些都是好的，但如果它使医疗成本增加20%，这是否可行？”
AI带来了一系列挑战，包括算法衰减——即预测准确性随时间下降。将这些工具整合到医疗系统的运营中需要持续监控和专门人员，以确保公平性、可靠性和有效性。在斯坦福大学，Shah博士透露，审计两个AI模型的可靠性花费了8到10个月的时间和115小时的手动劳动。难点不在于确定这些工具是否有效，而在于它们是否能持续有效。
另一个问题是：许多医疗系统缺乏满足这些需求的人才和基础设施。FDA在2024年初就注意到了这一风险，FDA专员Robert Califf博士表达了对医疗系统缺乏验证AI应用有效性的基础设施和工具的担忧。
“我四处寻找，”Califf博士在最近的一次AI专题小组会议上说，“我相信在美国没有任何一个医疗系统有能力验证在临床护理系统中实施的AI算法。”
医疗系统领导者也对在医疗保健中普遍存在的碎片化或有缺陷的系统上叠加AI解决方案能带来多大变革表示健康的怀疑。
欲了解更多关于医疗AI的悖论和监督需求的信息，请阅读《CBS News》的报道。
(全文结束)
