拼写错误和俚语会让人工智能医疗评估陷入困境

Typos, Slang Trip Up AI Medical Assessments

常见的人类打字错误会让旨在辅助医疗保健工作者的人工智能程序陷入困境，一项新的麻省理工学院（MIT）研究显示。

输入错误、多余空格以及俚语可能会干扰人工智能正确分析患者记录的能力，研究人员本周在希腊雅典举行的计算机机械协会计算机器会议上报告了这一发现。

研究人员指出，缺少性别代词或使用俚语也可能会导致人工智能的治疗建议发生改变。

这些人为错误增加了人工智能推荐患者自我护理而非寻求专业帮助的可能性，研究结果显示。

“这些模型通常是在结构良好且经过清理的医疗问题上进行训练和测试的，但实际应用任务却与之相去甚远，例如评估临床病例的严重性，”主要研究员、麻省理工学院电气工程和计算机科学研究生阿比尼特·古拉巴蒂纳（Abini Thabatina Gourabathina）说道。她是麻省理工学院剑桥分校的研究人员。“我们希望了解这些非常现实的文本变化如何影响下游用例。”

当古拉巴蒂纳交换患者记录中的性别提示或将格式错误引入人工智能系统时，她惊讶地发现，简单的格式错误会导致人工智能响应的巨大变化。

当这些被更改或“扰乱”的数据被输入到人工智能系统时，它们有67%到87%的可能性更倾向于建议患者自行管理症状，而不是寻求医生的帮助，结果表明。

研究人员表示，使用像俚语这样的生动语言对人工智能的影响最大。

人工智能模型还犯了更多针对女性患者的错误，即使研究人员删除了所有性别提示，结果表明——这甚至可能导致女性患者被告知可以在家自行护理，而不必去医院。

克利夫兰诊所已经在其医疗保健中引入了更多的人工智能技术。

(全文结束)