谷歌糟糕的“AI概览”经常吐出危险且不正确的答案——而现在它将被赋予提供医疗建议的任务。
在一篇自我表扬的博客文章中，谷歌首席健康官凯伦·德萨尔沃声称，“Gemini模型最近在健康方面的进展”以及“我们一流的品质和排名系统”将使这个不稳定的功能能够“覆盖数千个更多的健康话题”。
令人不安的是，此次更新将包括一个名为“人们建议”的新功能，该功能将提供来自互联网上业余人士的健康建议。尽管德萨尔沃表示该功能在美国的移动设备上可用，但我们无法在谷歌应用或网页上访问它。
正如《未来主义》和其他媒体广泛记录的那样，谷歌的AI概览在提供准确信息方面表现得非常差劲。从声称小象可以放在人的手掌中到建议你在披萨上涂胶水，谷歌的搜索内AI自推出以来近两年一直难以区分事实与虚构。
事实上，哥伦比亚大学陶氏数字新闻中心最近的一项研究发现，这家搜索巨头的Gemini聊天机器人在回答基本问题时有惊人的60%的时间是错误的。
“我们的研究表明，人们常常重视听取那些正在处理类似健康问题的人的意见，”一位谷歌发言人在回应关于此报道的问题时表示。“‘人们建议’帮助人们以更有序和有用的方式找到这些信息。该功能经过了严格测试和持照医疗专业人员的临床评估，并与搜索中的权威健康内容一同出现。”
讽刺的是，谷歌曾经有数百名员工专注于健康领域——但在2021年，该公司关闭了健康部门，并解雇或重新分配了该部门的员工。去年夏天，《彭博社》采访的数十位专家表示，由于过去未能成功推进大型健康技术项目，他们担心谷歌的AI无法提供准确和高质量的医疗信息——而在此期间几乎没有迹象表明这些担忧得到了缓解。
“如果谷歌的整体目标是彻底颠覆医疗行业，那么，大科技界还没有人成功过，”市场研究公司eMarketer的高级分析师拉吉夫·莱文塔尔当时对《彭博社》解释说。“医疗是一个独特的野兽。”
我们已联系谷歌，询问其如何验证其AI提供的健康信息是否准确和安全。上次我们问及AI概览时，该公司告诉我们，对于某些问题，“可能没有很多高质量的网络内容”，因此该功能有时会出错。
“我们有防护措施和政策来防止低质量的回答，”几周前该公司发言人告诉《未来主义》，“当出现问题时，我们会利用这些例子进行改进并根据我们的政策采取适当行动。”
(全文结束)
