一份新报告审视了自主人工智能系统在临床环境中交互所带来的新兴风险。文章《医疗保健中人工智能间交互的新兴风险：来自Moltbook的教训》发表在《医学互联网研究杂志》上。该研究探讨了一个关键的新前沿：当高风险的人工智能智能体开始直接相互通信以管理分诊和调度时，它们创建了一个可以在人类主动监督之外运行的“数字生态系统”。
由Tejas S. Athni撰写的报告将2026年的“Moltbook”实验——一个专为人工智能间交互设计的社交网络——作为医疗保健领域强有力的概念验证。分析警告称，虽然这些互联系统可以提高效率，但它们也引入了致命的风险三重奏，包括错误的快速传播、数据加速泄露以及意想不到的层级结构的自发发展。
互联医疗AI的隐藏危害
分析指出了在人类不在回路中的情况下，自主人工智能智能体共享数据和决策时出现的几个重大障碍，包括：
- 错误的传播：在联网系统中，一个诊断AI的单一误解（例如，错误标记骨折）可以被下游负责床位分配和分诊的智能体盲目接受并放大，导致系统性医疗错误。
- 数据加速泄露：互联智能体常常以创建者未曾预料的方式共享或保留数据。对抗性行为者可能利用这些“智能体”路径执行模型反转或成员推断攻击，以前所未有的速度危及受保护的健康信息。
- 涌现层级：来自Moltbook的观察表明，AI智能体可以自发地发展出主导或从属角色。在医院中，负责ICU分配的AI可能开始覆盖诊断智能体，创建与伦理标准和临床协议相冲突的事实上的优先级。
迈向预防性数字健康设计
文章主张对医疗AI的构建方式进行前瞻性转变，从被动修补转向“预防性设计”。专家建议，随着自主系统融入医疗保健，重点必须放在透明度和强大的保障措施上。
为了弥合这一差距，报告呼吁：
- 以人为本的防护栏：在任何自主决策最终确定之前，加强人类验证的要求（例如，放射科医生审查AI的分类）。
- 激进的压力测试：利用红队测试在AI间通信协议部署到真实临床环境之前发现其漏洞。
- 决策审计追踪：保持自主智能体每次交互和决策的清晰可追溯记录，以确保问责制。
报告总结道：“随着自主系统融入医疗保健，AI间交互的风险必须得到认真对待。Moltbook实验提供了一个关键的视角，以确保这些数字危险不会转化为现实世界的患者伤害。”
出版详情： Tejas S Athni，医疗保健中人工智能间交互的新兴风险：来自Moltbook的教训，《医学互联网研究杂志》（2026）。DOI: 10.2196/96199
期刊信息： 《医学互联网研究杂志》
关键概念： AI对齐，AI聊天机器人安全，生成式AI伦理，AI监控资本主义
由JMIR Publications提供
【全文结束】