如果你还没有意识到我们正朝着一个真正的赛博朋克未来螺旋式发展，那么一项新的法案可能会让你信服——该法案试图让AI能够开具受控药物。
这项由亚利桑那州的戴维·施韦克特（David Schweikert）本月在美国众议院提出的法案，已被提交至能源和商业委员会审查。其目的是“修订《联邦食品、药品和化妆品法》，明确人工智能和机器学习技术可以作为有资格开具药物的执业人员”。
理论上，这听起来不错。与美国医疗体系打交道常常让人感觉像是被慢动作的砖头砸中自己，因此，一个能够同情地建议症状、促进健康生活方式并分发关键药物的完美AI医疗从业者听起来像是一个有希望的替代方案。
但在实践中，今天的AI远未达到能够提供这一切的程度，更不用说开具潜在危险药物的能力，而且不清楚它是否会达到这个水平。
施韦克特的法案并没有完全放开限制——它规定这些机器人医生只能在“相关州授权并且获得食品药品监督管理局批准、清除或授权的情况下”部署——但从长远来看，显然AI医疗是目标。我们的立法者显然觉得现在是时候移除刹车，开始让AI进入医疗系统。
尽管国会议员持乐观态度，但AI在医疗保健方面已经屡次失手——例如，OpenAI驱动的医疗记录工具曾被发现伪造患者的病史，微软的诊断工具自信地断言平均医院被众多幽灵所困扰，以及一个饮食失调热线的AI聊天机器人失控，鼓励用户进行不健康的饮食行为。
研究人员也表示同意。“现有的评估不足以理解临床效用和风险，因为大型语言模型（LLM）可能会意外地改变临床决策”，来自医学期刊《柳叶刀》的一项批评性研究指出，并补充说，“医生可能会直接使用LLM的评估，而不是利用LLM的响应来促进他们自己的评估沟通”。
还有一个社会问题：如今的AI极易被利用，这意味着患者必然会尝试——并且很可能成功——欺骗AI医生开具上瘾药物，而无需承担任何责任或监督。
值得一提的是，施韦克特以前也有过类似的担忧。去年7月的一段引述中，这位国会议员表示，“下一步是了解这种技术如何融入从建立医疗记录、跟踪你、帮助你管理用于心脏问题的药物，甚至生成数据集供你的心脏病专家远程查看你的数据等各个方面。”
他似乎已经从那种谨慎的乐观转向了快速行动、打破一切的心态，这种心态把未经测试的自动驾驶汽车推上我们的道路，把AI希特勒机器人推入我们的信息流——当然都是在未经我们同意的情况下。
随着AI盈利竞赛的升温，对现实世界应用场景的需求也在增加。随着需求的增长，科技公司面临着巨大的压力，必须推出其最新版本，下一个大繁荣。
但在医疗领域的偷工减料后果严重，而大型科技公司一再表明，它们宁愿急于将产品推向市场，而将社会责任推给我们——在学校里充斥着不符合历史的安妮·弗兰克机器人和引导青少年走向自杀和自残的AI伙伴。
施韦克特提议的这种去监管正是大型科技公司得以逃避这些罪行的方式，例如在未经同意的情况下用患者记录训练GenAI模型。它并未确保在任何步骤中都涉及主题专家，也没有确保我们在考虑企业利益之前彻底考虑公共利益。
当我们的立法者将这些科技公司送上通往王国的钥匙时，最受伤害的往往是那些最脆弱的人群——回想一下最大的、最耀眼的AI模型是如何建立在血汗工厂工人背上的。
对于AI门诊护理，你不需要成为科里·多克托罗（Cory Doctorow）就能想象一个分层的医疗世界——我们中最富有的人可以获得真正的人类医生，而其他人则被留给了不可预测的AI替代品。
在唐纳德·特朗普全面拥抱AI的时代，不难想象另一项行政命令或联邦合作伙伴关系会让AI药剂师成为现实，而无需那种繁琐的监督。
(全文结束)
