谷歌正通过弱化其人工智能生成医疗建议的安全警告，使用户面临健康危害风险。
当回应健康等敏感话题查询时，谷歌声称其位于搜索结果上方的AI概览功能会提示用户寻求专业帮助，而非仅依赖其摘要。"AI概览会提醒用户在需要时寻求专业建议或核实信息"，谷歌曾表示。但《卫报》调查发现，当用户首次获取医疗建议时，该公司并未包含任何此类免责声明。
谷歌仅在用户选择请求额外健康信息并点击"显示更多"按钮后才发出警告。即便如此，安全提示仅以更小更浅的字体显示在所有通过生成式AI汇编的额外医疗建议下方。"本内容仅作信息参考"，免责声明告知那些在查看初始摘要后继续点击并滚动至AI概览末尾的用户，"如需医疗建议或诊断，请咨询专业人士。AI回复可能包含错误。"
谷歌未否认其免责声明在用户首次获取医疗建议时缺失，也未否认警告以较小字体显示于AI概览下方的事实。一位发言人表示，AI概览"鼓励人们寻求专业医疗建议"，且"在适当情况下摘要本身会频繁提及就医需求"。
麻省理工学院助理教授、技术专家及AI与人机交互领域国际权威帕特·帕塔拉纳塔波恩表示，AI专家和患者权益倡导者对调查结果表示担忧。"免责声明具有关键作用，应在用户首次获取医疗建议时显著呈现。"他指出："首先，当今最先进的AI模型仍会产生错误信息或过度迎合用户以优先满足其需求而非确保准确性，在医疗场景中这可能真正危险。其次，问题不仅在于AI局限性，更在于人类因素——用户可能未提供必要背景或因误判症状而提出错误问题。免责声明作为关键干预点，能打破这种盲目信任，促使用户更批判性地处理所获信息。"
伦敦玛丽女王大学负责任AI教授吉娜·尼夫认为"问题源于AI概览的设计缺陷"，谷歌难辞其咎。"该功能为速度而非准确性设计，导致健康信息出错，可能造成危险。"今年1月，《卫报》调查曾揭露虚假误导性健康信息使用户面临风险。尼夫强调显著免责声明至关重要："谷歌迫使用户点击才能看到免责声明，快速阅读者可能高估AI概览信息质量，但我们知道它可能犯严重错误。"
在《卫报》报道后，谷歌仅对部分医疗搜索停用AI概览。斯坦福大学医学与影像AI中心研究员索尼娅·夏尔马指出："主要问题在于这些AI概览位于搜索页顶端，常在用户急需快速获取答案时提供看似完整的解答。对许多人而言，这一即时摘要带来的安心感会抑制进一步搜索的意愿，或阻止其滚动查看完整摘要并点击可能显示免责声明的'显示更多'按钮。更危险的是，AI概览常包含部分正确与部分错误的信息，除非熟悉该领域，否则极难分辨准确性。"
谷歌发言人回应："声称AI概览不鼓励用户寻求专业医疗建议是不准确的。除明确免责声明外，概览本身在适当时也会直接提及就医需求。"血液癌症慈善机构Anthony Nolan的患者信息主管汤姆·毕晓普呼吁紧急行动："健康 misinformation可能真正危险。免责声明必须更显著，促使人们思考'这是否需与医疗团队核实？能否直接采信？是否需结合个人病情深入核查？'我要求免责声明置于顶端成为首见内容，且字号与其他信息一致，避免因过小而被忽略。"
【全文结束】
