Ochsner Health的创新官Jason Hill表示，他大多数晚上入睡和早上醒来时都在担心一件事：生成式AI治理在医疗保健领域的现状。对他来说，提供者和其他医疗保健组织迫切需要标准化框架，以确保他们的AI工具安全且长期表现良好。
毫无疑问，生成式AI在医疗保健行业的热度依然很高。总体而言，行业对这项技术的潜力感到兴奋，认为它可以缓解工作倦怠、提高运营效率和改善患者结果。然而，医疗保健领导者在为这种新型技术制定适当的监管措施方面仍有很多工作要做。
当被问及医疗保健领域AI治理的现状时，Hill表示这个问题让他非常担忧。“我大多数晚上入睡和早上醒来时都在担心这件事，”他在上个月拉斯维加斯HLTH会议上的采访中说道。
在他看来，提供者和其他医疗保健组织迫切需要可以采用的标准框架，以确保他们的AI工具安全且长期表现良好。“如果我现在有数百万美元去创办一家初创公司，我会创建一个能够提供AI质量保证框架的公司。在我看来，这不仅仅是是否会受到监管的问题，而是何时会受到监管，以及如何监管的问题。当监管到来时——我们不知道具体什么时候——第一个拥有成熟系统的公司将胜出，”Hill解释道。
他认为未来的AI法规将涵盖两个方面：技术方面和运营方面。对于技术方面，Hill认为AI法规将重点关注生成式AI模型是否产生幻觉，以及这些幻觉是否具有临床相关性。在运营方面，医疗系统需要更好地避免“新奇事物综合症”。
例如，如果心脏病学部门向他展示了一款新的听诊器，该设备实际上可以检测瓣膜狭窄并帮助患者进行瓣膜成形术，Hill会要求他们每周审查50个AI输出结果，并在1到10的评分标准上评估其有效性。这些评估将纳入合同，如果连续四周没有看到这些结果，合同将被取消。“运营方面需要对其技术的有效性负责，”他解释道。
从Hill的角度来看，他希望医院领导能够“利用一些炒作并将其转化为承诺”。他认为，AI治理不仅适用于医疗系统决定将工具投入实践前的安全检查，持续的质量保证同样重要。
(全文结束)
