关于人工智能（AI）及其生成式AI（GenAI）在过去几个月内的迅猛发展，已经有很多讨论。令人惊叹。当我思考在医疗保健机构中利用AI和GenAI可能带来的变化和影响时，我不能不想到其中的善用、滥用和丑化。
善用：环境感知AI
到目前为止，有许多正面的例子表明AI可以改善医疗保健，但对我来说，有一个特别突出：环境感知AI技术。这是一种结合了AI、机器学习和语音识别软件的技术，提供环境监听和/或环境智能功能。由于它在环境中工作，可以创建能够感知、解释和响应医疗环境中个体存在和活动的智能系统。这项技术可以集成传感器、物联网设备和嵌入式设备，为患者和医疗保健提供者提供无干扰且情境感知的支持。早期结果表明，这些功能可以改善患者结局，通过监测重症监护室或手术室中的活动来确保医护人员和患者的安 全，改善患者和提供者的互动，通过自动转录预约并自动跟进讨论的行动（如开具药物和安排新预约，一旦提供者批准笔记和行动）来减少提供者和医护人员的倦怠风险。环境感知AI还可以提高整体数据质量。一些早期采用者测试这些功能的组织包括斯坦福健康、阿特里姆健康、杜克健康和密歇根大学健康-西部。大多数电子健康记录（EHR）平台为医疗保健组织（HCO）提供了不同程度的这些功能进行测试。如果你的组织还没有探索这些功能，我建议你确定你想测试的用例，定义每个用例的成功标准，计划在整个过程中进行监控，并启动试点项目。
滥用与丑化：能源消耗和偏见
尽管AI可以为医疗保健机构带来许多好处，但也存在滥用和丑化的问题。在很长一段时间内，任何提供者/医护人员都不会轻易接受AI应用程序的输出。即使在医学影像等领域的显著进步，也要认识到虽然AI使医疗专业人员能够利用其分析能力，但提供者仍需控制诊断过程。
作为医疗IT专业人士，有两方面的问题没有得到足够的关注，但应该引起重视：AI的能耗和因AI模型偏见而对患者造成的潜在伤害。每个医疗保健组织（HCO）必须确定哪一方面对其企业有更大的潜在负面影响：AI不断增加的能源消耗和因AI模型偏见而导致的患者伤害或疏远的风险。
让我们从能源消耗开始。许多医疗保健组织已经设定或计划设定长期可持续发展目标，涵盖提高设施能效或减少总体碳排放等因素。目前及可预见的未来，利用AI将与这些可持续发展目标背道而驰。尽管驱动AI的算法驻留在云端，但为其提供动力所需的水和能源来自一个庞大且永远饥饿的基础设施。这是AI的负面一面。如果你的组织有成为能源高效的目标，并且正在考虑使用AI或GenAI，你必须权衡利弊。在可预见的未来，你无法在推进能源计划的同时不被AI工作所抵消。
偏见导致不平等
回到2021年，南加州大学安纳伯格学院的研究教授、微软研究院高级首席研究员、巴黎高等师范学院AI与正义的创始主席以及社会影响AI的主要学者凯特·克劳福德（Kate Crawford）撰写了《AI图谱》一书。她在书中写道：“在未来几年内，大型AI系统可能需要相当于整个国家的能量。”虽然这很糟糕，但她关注的另一个话题更加令人担忧：数据集中的偏见及其对公平的影响。这是AI的丑陋一面。即使出于善意，数据产品也可能基于性别、种族、民族、国籍、支付组合或其他敏感特征表现出偏见。这些偏见即使在排除人口统计信息的情况下也会持续存在，因为存在各种混淆因素。数据用户和系统验证者必须接受培训，积极审查他们的结果和算法是否存在偏见。对于医疗保健来说，这是一个更为重要的问题，因为社会决定因素被纳入患者的数据库中，与其余的医疗记录一起考虑。Knowing Machines研究团队最近完成了一项研究，该研究于几个月前发表，研究了当今生成式AI系统背后最大的数据集之一，即执行文本到图像生成的数据集。这个数据集称为LAION-5B，代表大规模人工智能开放网络50亿，其中50亿是指从互联网上抽取的至少50亿张图像和文本描述。研究的初衷是LAION-5B将继续反映社会偏见，但相反，他们发现由于图像ALT标签的影响，偏见和奇怪的扭曲现象更加严重。ALT标签是一种HTML属性，用于在图像或网页上的其他视觉元素无法正确渲染时提供替代文本。然而，聪明的营销人员利用ALT标签推广产品、生活方式美德等。所有这些信息现在都是生成式AI提供响应的一部分。我称之为AI的丑陋部分，因为数据集不断增长，使你的组织对喂养任何AI模型的数据的信任成为一个关键组成部分，以充分利用AI所能提供的最佳功能。
随着AI和GenAI的迅速普及，医疗保健领域的每个人——C级领导、IT员工、临床医生、提供者、工作人员、AI技术供应商、政策制定者等——都应意识到AI的各个方面。这项技术在医疗保健中具有变革潜力，提供了显著的好处，但也带来了显著的挑战。这是一个需要利益相关者仔细考虑和持续对话的平衡，以充分利用AI的好处，同时减轻其风险并解决伦理问题。
(全文结束)
