人工智能在健康领域的角色及未解的伦理问题成为三角洲AI峰会焦点AI’s role in health, unanswered ethical questions take center stage at Triangle AI Summit

环球医讯 / AI与医疗健康来源:www.dukechronicle.com美国 - 英语2025-06-03 14:00:00 - 阅读时长5分钟 - 2173字
数百人参加了杜克大学举办的三角洲人工智能峰会,讨论了人工智能在健康领域的应用及其带来的伦理问题。会上还介绍了杜克大学在人工智能领域的新举措。
人工智能健康领域伦理问题杜克大学数据中心医疗系统验证障碍患者福祉社会影响技能退化
人工智能在健康领域的角色及未解的伦理问题成为三角洲AI峰会焦点

数百人于周五涌入华盛顿杜克酒店参加三角洲人工智能峰会;这是杜克大学第二次举办聚焦该地区人工智能技术应用的论坛。

此次会议由教务长Alec Gallimore主持,一周前他宣布了一项新倡议,旨在增加对这项技术的讨论,并使该校成为该领域的领导者。“我们不仅是在应对人工智能领域的变化,”Gallimore在开场演讲中说,“我们正在积极塑造其未来。”

此次峰会由杜克学习创新和终身教育、杜克图书馆、杜克社区事务部和护理学院组织,围绕四个“支柱”展开,这些支柱来自该倡议:可信赖和负责任的人工智能、利用人工智能推动发现、与人工智能共存以及可持续的人工智能。

与会者首先听取了《纽约时报》记者Cade Metz关于人工智能的历史和功能的概述,然后听取了人工智能领域领导者的系列小组讨论,这些讨论围绕上述四个支柱展开。活动还包括展示来自整个三角洲地区的AI项目,以及杜克大学Code+暑期项目本科生的观点。

杜克大学的新AI举措

信息技术副总裁兼首席信息官Tracy Futhey讨论了该校为支持其教育使命而投资人工智能的若干计划——包括建造一个能源输出足以“为卡罗来罗镇供电”的数据中心。

她表示,她的办公室正在与设施和管理部门合作,制定项目的可行性方案,重点在于“如何建设下一代数据中心,使其既节能又环保。”她指出,杜克大学正在研究液冷技术作为降低数据中心气候影响的成本效益方法,因为数据中心以高能耗著称。

新的中心预计将在18到24个月内上线。

Futhey列出了几个将在即将到来的学年向社区成员提供的AI项目,包括ChatGPT-4o和一款名为DukeGPT的新软件。

她还推广了杜克大学与其他州内大学之间的AI培训合作伙伴关系,指出“需要做的事情比任何一所机构能做的都要多。”“我们的目标是让北卡罗来纳州成为人工智能研究和教育的第一名,”Futhey说。

人工智能在健康领域的不确定角色

主持人Nicoleta Economou-Zavlanos,生物统计学和生物信息学助理教授兼杜克健康AI评估和治理主任,以一个看似简单的问题开始了她的小组讨论:“对你来说,可信赖和负责任的人工智能意味着什么?”

“我坦白告诉你们,我不知道,”计算机科学教授Jun Yang说。“我认为我不是唯一一个。”

他并不是唯一的。当小组讨论转向人工智能在医疗系统中的应用时,前食品和药品专员Robert Califf(三一学院1973届,医学院1978届)表达了对在一个医疗机构测试的人工智能无法在另一个医疗机构部署的担忧,他说这归结于验证AI工具的障碍。

“我不知道国内有哪个医疗系统能够真正做到所需的验证工作,”他说。

Califf还表示,医院经常出于经济原因整合人工智能,使得“患者福祉……成为次要考虑因素”。

他提到了卫生与公共服务部最近发布的《让美国再次健康》报告,该报告被指责使用了产生虚假信息的人工智能,作为国家在负责任地将人工智能整合到医疗系统中的失败例子。

SAS研究所的医疗总监Steve Kearney表示,人工智能的发展必须“以信任的速度进行”,但他坚持认为,决定如何将软件产品整合到医疗保健中的责任在于从业者。

“我们开发软件,”他说。“我们不是如何将其应用于患者护理的专家。那应该是你们所有人。”

Yang强调,尽管存在担忧,但人工智能应该被接受。“世界正在使用它,”他说。“我们必须找到应对它的方法。”

未解的伦理问题

“与人工智能共存”小组继续讨论随着人工智能在社会中扮演越来越重要的角色而产生的伦理问题,尽管发言者并没有给出太多答案。

“会有坏的一面,也会有好的一面,与人工智能共存就是要找出平衡点,”社会学教授兼杜克社会中心人工智能倡议主任Chris Bail说。

据Bail所说,很多坏的方面涉及技术如何在社交媒体上制造回音室并加剧两极分化。

工程研究生和专业课程执行驻校员Brinnae Bent指出了对边缘化社区的特别影响。她提到了少女们被大量深度伪造色情内容“针对”,以及在全国各地警察局使用的AI面部识别软件,尽管研究表明这些工具存在种族偏见。

主持人Yakut Gazi,学习创新和数字教育副教务长,指出发展中的技术预计将威胁数百万个工作岗位。她问小组成员,美国人是否应该“停止假装每个人都可以重新培训”,而是“开始规划一个不是每个人都需要工作的社会”。

但Grammarly for Education负责人Jenny Maxwell拒绝了大规模裁员不可避免的观点。她提到了金融技术公司Klarna因AI未能充分替代数百名客户服务人员而导致公司贬值约400亿美元后,后悔并重新招聘的案例。

后来,研究图书馆协会执行董事Andrew Pace表示,人工智能可能不会直接取代工作。相反,他认为“你将被理解人工智能的人取代”——似乎将技术的发展和维护视为增长空间。

小组成员还讨论了生成性人工智能在学生中的普及所带来的影响,以及由此导致某些技能退化的担忧。目前尚无全面的国家法规来规范人工智能在教育或专业领域的使用和发展。

峰会上的发言者强调了人工智能发展中日益增长的灰色地带。但许多人表示,通过参与这种不确定性并试图回答“难题”,是一条强有力的前进道路。

正如Califf所说:“这不正是大学存在的意义吗?”


(全文结束)

大健康
大健康