日益迫切的伦理整合需求

The Increasingly Inescapable Need to Integrate Ethics

工程师们在其职业生涯中面临着比以往任何时候都多的伦理困境。学生们需要学习如何应对这些挑战。

2019年，查尔斯·格斯巴赫（Charles Gersbach）从北卡罗来纳州达勒姆飞往中国香港，参加第二届人类基因组编辑国际峰会。他以为这次会议会是一次相对平静但有益的几天，与同事们交流和学习。

他错了。落地后打开手机，通知如潮水般涌来。当格斯巴赫在空中时，深圳南方科技大学的科学家贺建奎宣布，他已经对一对名为露露和娜娜的双胞胎女婴进行了基因编辑。

“我的手机被邮件和记者的电话淹没了，”杜克大学生物医学工程约翰·W·斯特罗贝恩杰出教授查尔斯·格斯巴赫说。“他安排在会议上发言，当他上台时，房间里记者比科学家还多。相机快门声震耳欲聋。我从未在科学会议上见过这样的场面。”

在会议期间，贺建奎解释说，当这对双胞胎还是单细胞胚胎时，他使用CRISPR删除了一个与HIV感染有关的关键基因。理论上，破坏这个单一基因会使孩子们对HIV感染免疫。

使用CRISPR治疗疾病并不是新想法，特别是对于像肌营养不良症、亨廷顿病和镰状细胞贫血等已经确定关键基因的疾病。但这项工作涉及改变不会遗传给患者后代的细胞。通过在早期胚胎中改变基因组，贺建奎也改变了胚胎未来卵子或精子的DNA，这意味着这种改变可以遗传给双胞胎的后代。

这项工作在全球范围内引发了基因组工程师、医生和伦理学家的愤怒和争议，他们认为该项目使孩子们暴露在潜在的脱靶基因编辑风险中，而没有显著的健康益处，尤其是在已经有安全有效的保护人们免受HIV感染的方法的情况下。

“当时很难理解我们听到的内容。有一种普遍的难以置信和愤怒的感觉。但也意识到这是人类干预自身生物学的一个重大步骤。”——查尔斯·格斯巴赫，约翰·W·斯特罗贝恩杰出教授，杜克大学生物医学工程

这只是21世纪专业工程师面临的众多伦理困境之一。创建能够自我学习的人工智能；设计能够追捕人的机器人；决定新的海堤应建在哪里。现在比以往任何时候都更需要学生准备好思考其决策可能带来的后果。

杜克工程学院最近聘请了里奇·埃娃（Rich Eva）担任其新的Character Forward项目的主任，专门解决这一问题。在杜克大学本科课程增强基金、洛德基金会和科恩创业工程网络的资金支持下，他领导了一项计划，提供种子基金，修改课程或试点课外活动，以加强学生对这些问题的理解。

这种参与水平的需求在全校已教授的材料中显而易见。例如，贺建奎实验及其后续影响是杜克大学BME290：生物医学工程伦理课程中的几个案例研究之一。该课程由杜克大学生物医学工程实践教授卡梅隆·金（Cameron Kim）领导，确保工程学生对塑造生物医学和工程领域的不同伦理准则有坚实的基础理解。有了这些知识，他们探讨从医学人工智能到脑机接口等各种话题，讨论和辩论新技术的伦理优劣和挑战。

“我们可以一直讨论30年前的挑战并从中学习，但我希望这些学生具有前瞻性。许多这些技术正在以需要我们立即讨论的方式演变和变化。重要的是我们要认识到这些快速发展的工具被滥用时可能发生的情况。”——卡梅隆·金，杜克大学生物医学工程实践教授

CRISPR可能是这一论点的代表，因为其改变人类基本代码的能力已经非常容易获得。“基因编辑实际上非常简单，”杜克大学生物医学工程助理教授普拉南·查特吉（Pranam Chatterjee）说。使用CRISPR时，Cas蛋白与引导RNA结合，后者指导Cas在特定位置切割或改变DNA，从而导致DNA序列的变化。

“即使是本科生级别的生物学知识也可能足以让你去编辑几乎所有你想要的生物体中的几乎任何基因，”查特吉说。“这种简便性扩大了其使用范围，但也使其监管变得极其困难。”

重要对话的开始

认识到这一工具的广泛潜力和危险，美国国家科学院和国家医学院于2017年组织了一个多学科、国际委员会，审查该技术并提出关于其在人类基因组编辑中的伦理使用的建议。

虽然委员会同意可以在现有医疗和伦理指南下进行非生殖细胞的基因治疗，但他们对CRISPR在生殖细胞中的使用划定了更严格的界限，规定只有在预防严重疾病或条件且没有合理替代方案时才能使用可遗传的人类基因组编辑。

“自CRISPR发现以来，我们已经缓解了许多安全性问题，但它仍然不是最安全的治疗方法，”查特吉说。“它来自细菌，可能会引发免疫反应，而且需要非常昂贵的递送策略。它不适合99%的情况，但对于某些疾病来说，它是最好的，有时甚至是唯一的选项。”

其中一种疾病是镰状细胞病，这是一种影响10万名美国人的遗传性血液障碍，可能导致剧烈疼痛、器官损伤和微循环阻塞，进而导致残疾甚至死亡。以前，唯一持久的治疗方法是骨髓移植，但在2023年，FDA批准了两种非遗传性基因疗法，用于治疗12岁及以上的患者。

随着这些首批FDA批准的试验开始显示出结果，查特吉对研究人员是否会推动使用基因编辑疗法治疗已有替代治疗方案的疾病感到好奇。在这种情况下，他说，今天的医学生和研究人员需要更仔细地权衡每种疗法的风险和收益。

毕竟，2017年委员会的决定旨在开启关于人类基因编辑伦理的对话，而不是结束这一对话。但目前，查特吉作为科学家和教授，专注于他在当前能实现的目标。

“我认为总体上我们还没有做好足够的准备，面对如此多人能够使用这一工具的情况，”查特吉说。“有些人拥有这种能力，但我们如何确保他们会正确使用？为此，我们需要在使用这一技术的任何教育课程中纳入伦理。这必须成为对话的一部分。”

追赶失控的火车

另一项正在推进伦理辩论且已经非常容易使用的技术是人工智能。但与其关注创造可能自我意识甚至超越人类的AI（我们稍后再谈），许多研究人员担心的是，更简单的决策算法是如何得出结论的。毕竟，大多数算法都是“黑箱”，不展示其工作过程。

辛西娅·鲁丁（Cynthia Rudin）希望改变这一点。作为杜克大学计算机科学的吉尔伯特、路易斯和爱德华·莱尔曼杰出教授，她领导着可解释机器学习实验室。在那里，她和她的学生开发了帮助人类窥探幕后、清楚地了解AI为何做出某些决策的机器学习算法。

然而，在她努力解锁和澄清其实验室构建的AI的内部工作原理的同时，鲁丁密切关注并担忧这一技术在那些不介意“黑箱”的人手中爆炸式增长的情况。

“AI技术就像一列失控的火车，我们在试图用双脚追赶。很多时候，我们没有培训计算机科学家正确的主题。例如，我们没有培训他们基本统计学，也没有真正培训他们伦理。他们在开发这项技术时没有考虑其可能的用途，这是一个问题。”——辛西娅·鲁丁，杜克大学计算机科学的吉尔伯特、路易斯和爱德华·莱尔曼杰出教授

鲁丁最大的担忧之一是AI生成的虚假信息如何迅速被接受并分享为事实。她还对人脸识别软件中AI的普及表示警惕，尤其是其在高度监管情景之外的使用。

但鲁丁尽最大努力予以反击。她在多个政府委员会担任职务，分享她对这些技术不受监管传播的知识和担忧。尽管她知道自己的许多学生将来会在帮助开发这些技术的大科技公司工作，但鲁丁坦诚地告诉他们需要在这些角色中解决的现有伦理问题。

“要么我不教他们，让他们延续这些问题，要么我教他们这些问题及其解决方案，”她说。“如果我的学生要进入大科技公司，那么至少他们会知道这些工具如何和为什么有害。”

对鲁丁来说，这意味着探究这些工具开发的背景。通过了解它们最初是如何以及为何被创建的，学生可以理解他们创建的工具可能会如何大幅演变并用于有时意想不到的目的。例如，自动驾驶汽车的视觉系统最初是使用可以识别图像中鹿的算法训练的。如今，这些相同的算法被用于面部识别软件。

“我还教我的学生如何使用可解释的机器学习算法，并在课堂上教授如何推导这些算法，以便他们可以将其与黑箱模型进行对比，”鲁丁说。“他们亲身体验到，很多数据并不需要神经网络就能达到最高性能。不仅我的学生可以指出这一点，他们还知道如何创建可解释的算法来代替黑箱。这是非常罕见的，因为大多数机器学习课程只教授黑箱方法。”

打开新的思维方式

现在回到那些智能杀手机器人的场景。

博远·陈（Boyuan Chen），杜克大学机械工程与材料科学、电气与计算机工程、计算机科学的助理教授，以及通用机器人实验室的负责人，对这些科幻情节非常熟悉。但这并没有阻止他研究能够通过感知和与复杂世界互动来学习、行动和改进的机器人，就像人类儿童一样。

“最终，我希望机器人和机器能够配备高级认知技能，协助人们释放创造力，”他说。（参见我们关于他的工作的报道，了解更多关于这项研究的信息）。

但陈并不是想制造下一个终结者或西部世界的导游。相反，他实际上担心公众对机器人能做什么和实际能做什么之间存在巨大差距。这种差距因社会需要给人留下深刻印象、获得更多资金或销售更多产品而被夸大。

“在机器人领域，你不能发表论文而不附带真实的机器人视频演示。但人们不知道的是，许多这样的视频演示都是精心挑选的，”陈解释说。“在很多情况下，系统的局限性可能被埋在论文的附录中，但它们被排除在论文的主要部分或根本没有提到。这种做法让学生和公众对我们在实际取得了什么和尚未实现什么方面产生了错误的认识。”

在陈的一门本科课程中，他要求学生从零开始建造一条腿的机器人。学期末，他们在杜克教堂前举行舞蹈和步行比赛。学生们以为这是测试他们的机器人的方法，实际上这是展示现场演示效果不佳的一种方式。如果这一点在实验室中没有立即显现，通常在学生把机器带到教堂外的石板上时就会显现出来。突然间，机器人在新表面上几乎无法行走，即使它们之前在其他地方工作得很好。

“当他们总结项目时，近80%的视频是学生记录各种意外挑战和失败以及如何克服它们的过程，”陈解释说。“我认为让学生充分体验机器人设计和控制过程非常重要，这样他们不仅能理解机器人学的基本知识，还能识别需要解决的关键挑战。记录整个过程教会学生如何向普通观众传达复杂技术，这使得开发过程更加透明。”

随着学生在这些充满伦理困境的课程中不断进步，他们经常学到，很少有明确的“好”或“坏”答案。相反，他们从阅读材料、案例研究、课堂讨论和实际经验中学到如何表达他们对不同技术和用途的看法、担忧和决策。

“这门课为我打开了一个新的思维方式，这是我之前在杜克大学上的任何课程都没有体验过的，”杜克大学生物医学工程专业的大四学生摩根·辛德尔（Morgan Sindle）说，她在2023年春季上了金的伦理课。“能够从这门课中获得的视角来看待问题，感觉像是一种与我在杜克大学学到的工程技能同样必要的技能。”

这是学生们的常见反馈，也可以从杜克大学的另一门机器人伦理课程中看到，该课程邀请了一系列来自行业和学术界的演讲者，讨论机器人和自动化领域的伦理问题。

“我们讨论的一个例子是脉搏血氧仪在某些肤色上比其他肤色更好用，”杜克大学最近毕业的机械工程和计算机科学双学位学生艾莉森·陶布（Allison Taub）说。“了解这些新技术如何影响社会并讨论所有相关的细微差别非常有趣。我们有很多优秀的演讲者，因此深入探讨许多不同领域非常棒。”

“很少有事情是非黑即白的，有很多灰色地带，”杜克大学机械工程与材料科学实践教授希奥班·奥卡（Siobhan Oca）说，她教授这门课程。“但我们需要进行这些对话，并能够对自己和我们的技术负责。”

“我们作为工程师所做的工作不是在社会、伦理或法律真空中进行的。我们需要开设课程，挑战学生思考我们作为工程师的工作可能产生的影响，不仅要考虑当前的挑战，还要考虑这些技术演变过程中可能面临的未来伦理挑战。”——卡梅隆·金，杜克大学生物医学工程实践助理教授

(全文结束)