达拉斯的 Pieces Technologies 最近几个月经历了过山车般的起伏。本周，这家医疗保健 AI 公司从美国国立卫生研究院（NIH）和国家癌症研究所获得了 200 万美元的拨款，用于开发癌症护理的对话式 AI 技术。上个月，德克萨斯州总检察长办公室宣布与该公司达成和解，此前该办公室调查了其关于医疗保健 AI 产品准确性的所谓“误导性声明”。
Pieces Technologies 首席执行官鲁本·阿马拉辛汉博士（Dr. Ruben Amarasingham）表示，公司成立于帕克兰临床创新中心（Parkland Center for Clinical Innovation），并开发了多种产品，可以将数千页的医疗记录简化为护理人员的摘要。
总检察长的调查
今年 8 月，总检察长办公室提交了一份请愿书，质疑 Pieces 网站上关于技术错误率的说法，即该技术出现严重错误的概率低于 0.001%。请愿书称，这一说法可能违反了德克萨斯州欺骗性贸易行为法，因为它们是虚假、误导或具有欺骗性的。总检察长办公室发布的声明称，该准确率“可能不准确”，并要求 Pieces 披露产品的准确性，并告知用户应如何依赖这些产品。
“提供高风险环境中使用的 AI 产品的公司有责任向公众和客户透明地说明其产品的风险、局限性和适当用途。任何低于此标准的行为都是不负责任的，不必要地危及德克萨斯人的安全。”总检察长帕克斯顿（Paxton）表示，“医院和其他医疗机构必须考虑 AI 产品是否适当，并相应地培训员工。”
然而，Pieces Technologies 表示，总检察长办公室的声明“危险地曲解”了双方之间的协议。公司坚决否认任何不当行为，并坚持其公布的准确率。尽管声明中有相关内容，但协议中并未提及产品的安全性，也未发现其产品存在任何公共风险。
该协议的重点在于开发一种独立的方式评估产品的准确性，而不是之前采用的内部系统。此外，该协议不包括任何财务罚款或和解款项。“尽管德克萨斯州总检察长办公室的声明对这项协议进行了令人失望且具有破坏性的曲解，但 Pieces 将继续在州和国家层面与共享共同承诺的组织合作，推进高质量和安全的医疗保健服务。” Pieces 在一份声明中表示。
NIH 拨款
调查和和解并未影响 Pieces 的增长或资金来源的关注。本周，Pieces 宣布获得了来自美国国立卫生研究院（NIH）国家癌症研究所的 200 万美元小型企业创新研究合同。根据合同，Pieces 将与俄亥俄州克利夫兰的 MetroHealth 医疗中心合作，部署其最新产品 PiecesChat。这款 AI 代理旨在实时回答癌症患者的问题，并收集有关社会决定因素的信息。
“在回答癌症护理问题的同时确定患者可能需要的其他资源，这对系统来说是一个巨大的胜利。” MetroHealth 系统高级副总裁兼首席临床整合官 R. Douglas Bruce 博士表示，“我们热切期待与 Pieces 合作，利用 AI 的独特功能帮助临床医生解决患者面临的 SDOH 不平等现象。”
新的对话式 AI 将包括人工监督，并将成为首批基于“人在环路”进行研究的对话式 AI 之一。该产品增加了公司的产品线和 12 项专利，这些专利可以生成临床摘要、工作进度笔记、患者简报和出院计划。
尽管存在法律纠纷，但 NIH 和使用该产品的医疗系统似乎对产品的准确性、安全性和有效性没有太多投诉。“我们非常荣幸和谦卑地获得这一重要的 NIH 奖励。正在研究的技术在多个领域具有潜在的深远影响，包括癌症护理、SDOH 管理和患者赋权。首次，患者将能够向高度监督的 AI 提问有关其护理的任何问题或细节。”阿马拉辛汉博士表示。
(全文结束)
