人工智能的真正变革不在于核反应堆，而在于电网。
大多数将人工智能与核能相比较的讨论，都集中在风险和监管上。这些相似之处确实存在，但它们忽略了更重要的点。
核电站并非魔法。其核心是一个蒸汽轮机，这项技术已存在超过一个世纪。改变的是能源来源。核反应使得以旧系统无法匹敌的规模和稳定性发电成为可能。但这种电力只有在围绕它的系统进化之后才变得重要。
为了使核能可行，我们必须重新设计其周围的一切。输电网络扩展了。负载平衡改进了。新的安全系统和监控措施必须建立并持续执行。许多全新的角色和学科应运而生，以管理这种既强大又陌生的新型能源。电网需要的不仅仅是工程学。它需要治理、监管、问责制和信任，才能使这种电力变得安全可用。
人工智能正沿着同样的道路前进。模型本身并非系统。它们是新的能源来源。
心脏科医生、医学博士、工商管理硕士埃夫斯塔西娅·安德烈科普洛乌从临床护理内部清晰地看到了这个问题。在我们的对话中，她简洁地指出：“检测并非结果。我们需要检测，但如果没有明确定义的行动和一个旨在吸收后续处理的系统，检测就毫无意义。”
这就是医疗AI的核心失败。技术并非瓶颈。瓶颈在于检测之后发生的事情。
一个模型可能会标记出疾病、风险或恶化迹象。但是，如果没有清晰的工作流程、责任归属和后续行动，患者的状况就不会有任何改变。结果被搁置在收件箱里。临床医生可能看到，也可能看不到。患者在没有上下文的情况下收到信息。我们常常庆祝检测。我们衡量准确性。我们比较模型。但我们很少问最关键的问题：接下来会发生什么？
在许多情况下，答案是：什么都不会发生。或者，发生一些不一致的事情。
这就是为什么AI看起来更像是一种新的能源，而不是软件。就像核能一样，它的价值取决于周围系统能否安全可靠地利用它所产生的东西。
限制因素是电网
医疗系统并非为吸收和响应这种级别的输出而设计的。工作流程碎片化，数据孤立，责任常常不明确，而身处人生最艰难时刻的人们，却需要自己理解这一切。
AI正在产生更多的信号，但负责接收和响应这些信号的系统却未能跟上步伐。没有系统将其向前推进，信号就会变成噪音。而噪音不仅仅是低效。它是不一致性。在医疗领域，不一致性就是风险。
这不是一个部署问题。这是一个系统问题。这意味着要将AI嵌入到真实的工作流程中，而不是将其附加在一边；要明确谁负责后续跟进；要根据结果而非模型性能来衡量成功与否。
核能所需的条件常常被忽视。它需要新的安全系统，包括监管、事故响应和分层冗余。它需要长期的燃料处理与废物管理。它创造了全新的角色，从工程师到操作员再到监管者。
这些变化之所以发生，不是因为核能有缺陷。而是因为它太强大了。
医疗系统尚未完成这一转变。
AI工具被引入但未完全整合，其性能常常只被评估一次或根本不评估，当风险被标记时，责任归属常常不明确。
我们建成了反应堆，却没有建成电网。
限制我们的不是AI能产生什么，而是我们的系统能吸收什么。
监管能源，赋能系统
核能的类比也有助于厘清治理问题。
核能受到严格监管，因为风险是真实存在的。但监管的目的不是阻止它，而是确保其安全使用。
人工智能也需要同样的平衡。
我们应该严格地测试、批准和监控模型。但我们应该避免将AI视为需要限制的东西。目标是安全使用，而非压制。
在美国，这种想法已经存在于我们监管技术的方式中。各州关注的是工具在实际环境中的使用方式，尤其是在涉及安全时。目标不是禁止技术本身，而是确保其负责任地使用，并具有明确的责任制。
AI应该遵循同样的道路。
历史提供了警示。早期的失败塑造了公众对核能的看法，而这种看法至今仍限制着其应用。
我们不应该在AI上重蹈覆辙。
基础设施即政策
最重要的AI政策决策并非关于模型本身。而是关于围绕模型的基础设施。
由参议员特德·巴德和安迪·金提出的两党合作的《AI-Ready数据法案》反映了这一转变，它聚焦于数据质量、互操作性和可访问性——这些是AI在现实世界中运作所需的基础。
该法案所做的并非试图监管模型本身。而是投资于让模型能够工作的先决条件。
在医疗领域，问题很少在于模型能否产生洞察。问题在于，数据是否以允许该洞察被信任、路由和采取行动的形式存在。当数据碎片化或不一致时，即使是准确的输出也难以转化为决策。
这就是为什么该法案的两党性质如此突出。基础设施是AI领域少数几个可能达成一致的领域之一，因为它避免了关于限制能力的争论，而是专注于赋能负责任的使用。
如果说核能需要建设电网，那么AI就需要建设数据层。不仅仅是为了开发，更是为了在现实世界环境中进行验证、监控和采取行动。
更强的动力无法修复一个破碎的系统
人工智能是一项突破，但突破本身不会创造影响力。创造影响力的是系统。
我们正在产生比以往任何时候都更多的智能，但负责响应这些智能的系统却尚未被重新设计。将更强大的能源应用于同一个系统，不会产生更好的结果。
更强的动力无法修复一个破碎的系统。它会暴露它。
【全文结束】