从左到右：BioSpace 洞察主管 Lori Ellis；SAS 研究所全球真实世界证据与流行病学负责人 Sherrine Eid；Foley Hoag 律师事务所合伙人 Colin Zick；Astellas 制药 - Astellas 风险管理高级投资经理 Nagisa Sakurai；微软生命科学供应链执行董事 Mike Walker；白宫科技政策办公室生物技术和生物制造首席助理主任 Sarah Glaven。Cambridge Healthtech Institute
在公司和投资者展望未来之前，他们必须首先了解AI为他们带来的机遇和挑战。从推进流程的好处到网络安全风险，AI创新是一个机会和风险并存的平衡点。就在五年前，与生命科学行业的高级领导层讨论AI还是一件困难的事。现在，随着它被广泛提供给消费者，采用率飙升，成为2030年战略的自然组成部分。然而，误解这项技术能做什么和不能做什么的风险很大，这因法律环境和技术进步（如量子计算）的前景而变得更加复杂。因此，投资者在考虑不仅投资于AI，还要投资于采用AI的公司时，必须了解AI在生命科学行业的当前状态及未来的策略。
虽然这些问题适用于行业其他部分，但Cambridge Healthtech Institute (CHI) 在8月底举办的Bioprocessing Venture, Innovation & Partnering Conference期间组织了一个小组讨论，重点关注生物加工和药物开发中的AI创新。由BioSpace 洞察主管Lori Ellis主持的AI与技术小组讨论：导航创新、技术进步和不断变化的法规，旨在为投资者和高级领导层提供当前AI状态的指导，并展望未来。本文基于该小组讨论，重点介绍了AI在生物加工领域的当前状态。
理解AI及其概念验证困境
AI的爆发很大程度上归功于生成式AI (GenAI)。一个常被忽视的事实是，AI技术已经存在了几十年，而GenAI只是AI家族的一部分。微软生命科学供应链执行董事Mike Walker指出，由于我们拥有比以往更多的数据、存储能力和计算处理能力，行业可以做一些非常强大的事情。然而，他表示，公司仍在努力采用AI。为了指导其投资组合公司并做出明智的未来投资决策，投资者需要了解AI在行业中的位置。
尽管生命科学界（包括医疗器械和制药）有巨大的意愿甚至执行力，Walker 解释说：“我发现更多的是概念验证（POC）困境，即有人有一个好主意，公司进行了POC，结果却堆了一堆POC，没有人知道该怎么办。” 在生物加工和医疗保健行业中，许多纸质流程仍然存在。随着行业开始数字化这些流程，需要更深入地了解不同形式的AI。
数据背景和信任
随着数据量的增加，问题和担忧也随之增加。数据质量是讨论AI时不可或缺的一部分。“数据的背景至关重要，”Walker 解释道。“这些数据意味着什么？我应该使用这些数据吗？我能信任这些数据吗？” 信任在这里是一个复杂的词，因为它可能意味着多种含义。他进一步强调：“它可能意味着质量。它可能意味着我没有对这些数据进行适当的上下文化，这会导致错误的结果，因为数据脱离了上下文。”
尽管数据偏差和问题经常被讨论，但投资者和高级领导层应继续关注数据。错误的结果可能导致未来的召回或流程失败。
AI风险概况和管理
白宫科技政策办公室生物技术和生物制造首席助理主任Sarah Glaven指出，AI对生物经济组合的影响范围广泛，涵盖了从健康到农业、气候、经济安全、国家安全和工业化学品等多个领域。《推进可持续、安全和保障的美国生物经济的生物技术和生物制造创新行政命令》（EO）涉及整个空间。Glaven 表示，不同行业在AI采用方面存在共同的风险和特点。“该行政命令非常关注保护、安全，确保AI的好处超过对美国人民的风险。这是目前白宫的观点。”
Walker 建议为不同类型的AI分配风险概况。“你不能把机器学习和生成式AI同等对待。简单来说，机器学习是基于现有数据得出结论。生成式AI是创建合成数据——从未存在过的数据，这些数据是由大型语言模型解释的。” 因此，生成式AI容易产生幻觉，这带来了真正的挑战。“虽然有许多机会，但也存在巨大的风险，我们需要主动和有目的地管理这些风险，”Walker 说道。
风险管理是标准的商业实践。Foley Hoag 律师事务所合伙人Colin Zick 解释说，从流程角度来看，管理AI风险与其他风险并无不同。从Zick的角度来看，反驳AI风险与其他风险不同的观点是关键。“你需要确保人们了解你在做什么，限制是什么，需要什么保险，并定义风险，”他说。最终，重要的是要明确定义风险以及管理层对这些风险的接受程度。
与任何事物一样，AI风险管理必须与AI采用的背景相结合。SAS 研究所全球真实世界证据与流行病学负责人Sherrine Eid 强调，公司在采用AI时应保持简单。“如果你有一个复杂的大语言模型（LLM），很酷，你认为你会获得更多资金，但它更难解释，你到底做了什么？”Eid 向观众提问。如果公司因这个LLM延长了FDA批准周期，真正实现了什么？
Astellas 制药 - Astellas 风险管理高级投资经理Nagisa Sakurai 博士呼应了其他小组成员的观点。公司内部正在评估AI技术。虽然其领导者认识到AI技术在整个药物和医疗器械开发及商业化过程中具有显著的杠杆作用，但他们不确定应该信任多少，即使FDA已经批准了一项技术。“从投资者的角度来看，我们不知道应该承担多少风险，”Sakurai 说。“虽然我们没有忽视AI，但我们仍在评估应该投入多少。”
监管和立法对AI的影响
Foley Hoag 律师事务所合伙人Colin Zick 表示，虽然我们现在看到其他国家开始制定自己的AI法规，但欧盟AI法案为全球AI法规的起点奠定了基础。预计随着技术的发展，这些法规也会发展。Zick 预计，采用欧盟AI法案作为标准将会产生布鲁塞尔效应：“这些法规很严格，所以如果我们能满足这些要求，那么在其他地方也应该是好的，就像我们看到的GDPR一样。” 他进一步指出，由于美国联邦政府无法通过类似的在线隐私立法，加州等州采用了GDPR模式的数据隐私法。
然而，由于美国推动创新和AI潜在的金钱利益，他预见到在这种情况下会有更多的机构反对。“没有单一行业的隐私对手，而且在州一级推动立法很难，”Zick 说，“但相比之下，AI涉及的资金更多，关于扼杀创新的争论已经开始。” 结合联邦政府已经在反对州立法者和州长试图通过法律，他预计围绕AI的布鲁塞尔效应会减弱。
另外两个目前影响AI和整个行业的法律问题是最高法院2024年对Loper Bright和Corner Post案件的裁决。这些案件取消了对监管机构的尊重，并规定了公司或组织因联邦指南受伤后提起诉讼的时效。这些案件的后果已经开始显现，人们找到了方法来挑战基于尊重的FDA批准和已经决定的案件。
Zick 和他的公司一直在监控这一情况。“我们已经看到不断有案件挑战联邦法规，”他说。“在过去一周内，我知道又一起非常复杂、漫长的案件被提起，涉及FDA对实验室测试的监管。” Zick 预计，关于监管解释和执行的不确定性将增加，这将减缓监管指导草案的发布。
Glaven 对失去解释细微差别的能力对市场的影响表示担忧。“这将给本已人力紧张的监管机构带来额外负担，这些机构真的有时间和资源来加速监管过程。我担心这将阻碍我们将产品推向市场的能力。” 拜登政府的重点是确保这一点不会成为药物开发的障碍，但这是一项巨大挑战。
尽管如此，拜登-哈里斯政府通过科技政策办公室强调，希望与行业合作。Glaven 表示：“我们希望听到利益相关者的意见，以确保政策的制定符合私营部门的需求。” 这包括对资金、降低某些方面的监管风险或为行业设定具体标准的评论。
了解和准备网络安全风险
众所周知，AI可以用于放大网络攻击，如拒绝服务攻击、钓鱼攻击等。但除此之外，AI正以创造性的方式误导人类。
从商业角度来看，有许多滥用的机会，例如AI申请专利。由于AI可以以多种方式攻击企业，基于“如果发生这种情况怎么办”的情景的风险缓解策略变得至关重要。根据特定AI带来的能力，必须仔细考虑企业必须计划的各种情景。
Walker 以量子计算为例说明了这一点：“中国人正在使用量子退火模拟量子计算，”他说。“以前需要一个半小时才能计算完成，现在不到一秒钟就能完成。当你开始思考这种模型时，你必须考虑如果将其应用于攻击我的业务会意味着什么。”
关于医疗信息，HIPAA 中有规定，要求公司为紧急情况做好准备。这是处理任何类型受保护健康信息的法定义务。Zick 指出，复杂之处在于“HIPAA 安全并未解释如何解决这个问题。” 由于公司必须有解决方案，Zick 建议公司了解基本的数据卫生实践和如何在紧急情况下应对。“没有这种理解，你就无法开始弄清楚坏人有什么，”他说。这是公司能够及时应对的基本问题。
对于Eid 来说，这些风险导致了责任问题。她提醒观众，公司投资初创企业和其他实体时“不能假设所有责任”。有时SAS 作为软件公司和平台会承担部分责任，但永远不会承担全部责任。
这次坦诚开放的讨论是在一个专为行业内投资者和高级领导层举办的独家活动中进行的，他们专注于生物加工领域的进展。本系列的第二部分讨论了AI采用、沟通和适应趋势的未来策略。
免责声明：讨论中各位小组成员的陈述不一定代表其公司或组织的立场。
(全文结束)
