联合健康意外公开可被任何人使用的理赔评估AI
你是认真的吗？
12月16日 14:30 EST
Getty / Futurism
你是认真的吗？
AI理赔
在联合健康保险首席执行官布赖恩·汤普森（Brian Thompson）遇害事件的余波中，该公司的处方药中间商因一个巨大的AI失误而受到指责。
据《TechCrunch》报道，联合健康集团旗下的Optum Rx药房福利管理公司（PBM）使用的一个聊天机器人被意外公开，任何人都可以通过其IP地址轻松访问。这个名为“SOP Chatbot”的聊天机器人显然指的是它用于回答“标准操作程序”查询的问题，还透露了该公司员工询问的一些日志，如“如何检查政策续期日期？”
这些日志还显示，员工们询问了诸如“理赔的决定应该是怎样的？”等问题，这听起来像是AI被用于评估保险覆盖范围。
然而，这个聊天机器人似乎并不是联合健康的另一家子公司联合健康保险此前报道中使用的拒绝理赔算法。尽管该AI（nH Predict）曾因公司明知其高度不准确仍继续使用而成为诉讼的对象，但Optum的SOP Chatbot在《TechCrunch》报道前似乎并不为公众所知。
泄露的船
网络安全公司spiderSilik的联合创始人兼首席安全官莫萨布·侯赛因（Mossab Hussein）向《TechCrunch》通报了这一隐私泄露事件。目前尚不清楚侯赛因是如何得知SOP Chatbot的。
《TechCrunch》联系Optum询问有关SOP Chatbot的情况后不久，该聊天机器人即被锁定，不再对公众开放。
Optum的一位发言人通过电子邮件告诉《TechCrunch》，这个聊天机器人只是一个“作为潜在概念验证开发的演示工具”，“从未投入生产”。因此，没有任何真实患者数据被插入其中，公司声称也没有在训练中使用任何数据。
“该演示旨在测试该工具对一小部分SOP文件中问题的响应情况，”该发言人告诉《TechCrunch》，“这个工具不会也不会做出任何决定，而是仅提供更好的现有SOP访问方式。”
“简而言之，”他们继续说道，“这项技术从未被大规模应用，也未以任何实际方式使用过。”
尽管有这一免责声明，但联合健康旗下处方管理子公司测试此类AI的事实仍然非常引人关注，特别是考虑到其另一款理赔处理AI所发生的事情。
更多关于Optum的信息： 国会提出法案拆分联合健康集团
(全文结束)
